new-api

開源 AI 閘道。自託管 LLM 閘道,支援 OpenAI、Claude 與 Gemini 相容 API、模型路由、存取控制、使用追蹤與成本會計。

new-api 是什麼?

開源 AI 閘道。自託管 LLM 閘道,支援 OpenAI、Claude 與 Gemini 相容 API、模型路由、存取控制、使用追蹤與成本會計。

new-api 概覽

這是什麼

New API 是一個開源、自託管的 AI 閘道,專為模型、應用程式和代理所設計。它能匯總並分發上游 AI 模型服務的存取權限,透過暴露一致的 API 給客戶端。該專案可將各種大型語言模型轉換為 OpenAI 相容、Claude 相容或 Gemini 相容的格式,作為個人和企業模型管理的集中式閘道。

主要功能

  • 透過 OpenAI Chat Completions、Responses、Anthropic Messages 和 Gemini API 支援模型存取,包括串流、工具、推理和多模態輸入。
  • 提供路由功能,例如模型映射、頻道優先級和權重、重試、頻道親和性以及多個上游金鑰。
  • 透過配額、訂閱、使用記錄、快取記帳和基於表達式的定價來管理使用情況和成本。
  • 透過使用者、群組、細粒度權限、API 金鑰限制、OAuth/OIDC、通行鑰、雙因素驗證和登入會話管理來提供存取控制。
  • 包含一個 Web 控制台,用於配置頻道和模型、檢視使用情況和稽核記錄,以及在遊樂場中嘗試模型;支援多種語言,包括英文、簡體中文、繁體中文、法文、日文、俄文和越南文。

使用情境

New API 適用於在團隊內共享授權的模型存取權限、在不重新配置每個客戶端的情況下切換供應商,或使用 Web 控制台操作私有多模型服務。它可作為需要統一模型管理和成本核算的組織的內部閘道。

快速開始

使用 Docker 在本地嘗試:bashmkdir -p datadocker run --name new-api -d --restart unless-stopped -p 127.0.0.1:3000:3000 -e TZ=Asia/Shanghai -v $(pwd)/data:/data calciumion/new-api:latest開啟 http://localhost:3000 完成設定精靈。如需 Docker Compose 部署,請克隆儲存庫並依照 README 中的指示操作。對於生產環境,請依照文件配置環境變數,例如 SQL_DSN、SESSION_SECRET 和 REDIS_CONN_STRING。

授權與價格

此專案採用 AGPL-3.0 開源授權。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/quantumnousnew-api.svg)](https://yunodb.com/tools/quantumnousnew-api?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/quantumnousnew-api?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/quantumnousnew-api.svg" alt="Featured on YunoDB" height="20"></a>