chat-ui
HuggingChat 的開放原始碼基礎
chat-ui 是什麼?
HuggingChat 的開放原始碼基礎程式庫。類別:人工智慧。授權條款:Apache-2.0。
chat-ui 概覽
這是什麼
Chat UI 是一個開放原始碼的大型語言模型(LLM)聊天介面,使用 SvelteKit 建置,並為 hf.co/chat 上的 HuggingChat 應用程式提供支援。此程式碼僅與 OpenAI 相容的 API 通訊,因此任何支援 OpenAI 協定的服務(例如 llama.cpp 伺服器、Ollama 或 OpenRouter)都可以作為後端使用。
主要功能
- 僅支援 OpenAI 相容 API:Chat UI 可連接到任何實作 OpenAI API 規格的端點,包括 Hugging Face Inference Providers 路由器。
- MongoDB 持久化儲存:聊天記錄、使用者、設定、檔案和統計資料儲存在 MongoDB 中。若未設定
MONGODB_URL,則會使用內嵌的 MongoDB 進行本地開發。 - 主題自訂:透過環境變數可自訂應用程式名稱、素材(標誌/圖示)和描述。
- 模型探索:自動從設定的
OPENAI_BASE_URL端點的/models清單中發現模型。 - 可選的 LLM 路由器:伺服器端啟發式路由可根據輸入類型(文字、圖片、工具啟用)將請求導向不同模型。可設定虛擬模型別名「Omni」。
- 可選的 MCP 工具:Chat UI 可呼叫 Model Context Protocol(MCP)伺服器提供的工具,並使用 OpenAI 函式呼叫將結果回饋給模型。
使用情境
- 為任何 OpenAI 相容的 LLM 後端執行聊天介面。
- 為託管聊天應用程式(如 HuggingChat)提供支援。
- 使用可自訂的 UI 進行 LLM 互動的本地開發與測試。
- 部署具有智慧路由和工具整合的多模型聊天系統。
快速開始
- 建立
.env.local並填入您的 OpenAI 相容端點:
OPENAI_BASE_URL=https://router.huggingface.co/v1
OPENAI_API_KEY=hf_************************
- 複製儲存庫並啟動開發伺服器:
git clone https://github.com/huggingface/chat-ui
cd chat-ui
npm install
npm run dev -- --open
若要生產環境建置,請使用 npm run build 和 npm run preview。也可使用 Docker 映像檔(chat-ui-db)。
授權與價格
採用 Apache-2.0 授權。此專案為開放原始碼且免費使用。除開放原始碼授權外,未提供任何價格資訊。
內容整理自該專案公開的 README 與儲存庫資訊。