CliRelay
自託管AI閘道,專為編碼CLI設計 — 一個相容OpenAI/Claude/Gemini/Codex的端點,附多租戶網頁主控台、請求記錄與用量配額。
CliRelay 是什麼?
自託管AI閘道,專為編碼CLI設計 — 一個相容OpenAI/Claude/Gemini/Codex的端點,附多租戶網頁主控台、請求記錄與用量配額。
CliRelay 概覽
這是什麼
CliRelay 是一個自託管的 AI 閘道,專為程式碼 CLI 工具設計。它提供一個統一的 OpenAI/Claude/Gemini/Codex 相容端點,將來自 Claude Code、Codex CLI、Gemini CLI 等工具的請求路由到上游的 AI 帳戶或提供者 API 金鑰。它包含一個多租戶的網頁控制台,用於管理帳戶、檢視請求日誌以及設定花費配額。它是 CLIProxyAPI 的一個大幅擴展分支,重新建構了生產管理層、網頁控制面板和營運功能。PostgreSQL 15+ 是執行時期資料的真實來源,Redis 7+ 則負責快取、鎖定、速率限制、佇列和其他可重建的狀態。
主要功能
- 單一端點支援多個提供者:Claude、Codex、Gemini CLI、Antigravity、Vertex、Bedrock、xAI/Grok、Qwen、Kimi、iFlow、OpenCode Go、ClinePass、Ollama Cloud 以及任何 OpenAI 相容的上游,支援 OpenAI Chat/Responses、Anthropic Messages 和 Gemini 協定。
- 路由功能包含頻道群組、自訂路徑、輪詢/優先填滿/工作階段黏著排程、冷卻時間以及自動故障轉移到健康帳戶。
- 可觀測性:監控中心提供健康分數、每分鐘即時流量、P50–P99 延遲、首個 token 時間、失敗分析、入口使用者 → 模型 → 頻道流量流程,以及可搜尋的請求日誌,包含 token 數、延遲和成本。
- 花費控制:用戶端金鑰歸屬於入口帳戶、可重複使用的權限設定檔、每日/週期/終身配額、RPM 和 TPM 限制、按模型定價以及一鍵重置週期。
- 多租戶架構:租戶、使用者、角色、resource.action 權限、每個租戶的策展選單以及安全敏感變更的稽核軌跡。
- 網頁控制面板位於 /manage,可透過引導式登入或憑證匯入新增帳戶、視覺化編輯設定、管理模型和定價、檢查更新,支援英文、簡體中文和俄文。
使用情境
- 希望共用單一 AI 閘道進行程式碼 CLI 工具,同時保持租戶帳戶、金鑰和資料分離的團隊。
- 需要監控和控制多個使用者與專案中 AI 程式碼工具花費的組織。
- 想要透過單一端點路由來自多個 AI 程式碼 CLI 的請求,並具備自動故障轉移和協定轉換功能的開發者。
快速開始
請參閱儲存庫的 README 以取得安裝和快速開始說明。
授權與價格
授權:MIT。價格:開源。
內容整理自該專案公開的 README 與儲存庫資訊。