octopus
One Hub All LLMs For You | 為個人打造的 LLM API 聚合閘道
octopus 是什麼?
One Hub All LLMs For You | 為個人打造的 LLM API 聚合閘道
octopus 概覽
這是什麼
Octopus 是一個專為個人設計的 LLM API 聚合服務。它能連接多個 LLM 提供者頻道,提供統一管理、協定轉換、自動故障轉移以及即時請求視覺化功能。
主要功能
- 多頻道聚合與統一管理 - 支援 OpenAI Chat、OpenAI Responses 與 Anthropic API 格式之間的協定轉換 - 自動同步模型價格與可用模型清單 - 自動故障轉移至可用頻道 - 在前端即時顯示端到端請求路徑 - 屏蔽上游錯誤,確保代理任務不中斷 - 提供請求統計、Token 消耗與成本追蹤分析 - 輕量級單一二進位部署,支援 SQLite、MySQL、PostgreSQL 多種資料庫
使用情境
- 希望從單一端點管理多個 LLM API 提供者的個人使用者 - 需要在不同 LLM API 之間進行協定轉換的開發者 - 需要自動故障轉移以達到高可用性的使用者 - 想要監控與分析 API 使用量與成本的使用者
快速開始
使用 Docker 執行: bash docker run -d --name octopus -v /path/to/data:/app/data -p 8080:8080 bestrui/octopus 或使用 docker-compose: bash wget https://raw.githubusercontent.com/bestruirui/octopus/refs/heads/master/docker-compose.yml docker compose up -d 從 Releases 下載二進位檔並執行: bash ./octopus start 從原始碼建置(需要 Go 1.24.4、Node.js 18+、pnpm): bash git clone https://github.com/bestruirui/octopus.git cd octopus cd web && pnpm install && pnpm run build go run main.go start 預設登入憑證:使用者名稱 admin,密碼 admin。請立即變更。
授權與價格
採用 AGPL-3.0 授權。開放原始碼且免費。
內容整理自該專案公開的 README 與儲存庫資訊。