PolyStrata
在您自己的個人電腦上執行大型 AI 模型:Qwen3.8-Flash-Next 於 Strata 引擎,以及 GLM 5.3 Flash、DeepSeek V4 Flash、LFM2.5、Qwen3.6、Ornith 1.5、Gemma 4、Tiel Coder
PolyStrata 是什麼?
在您自己的個人電腦上執行大型 AI 模型:Qwen3.8-Flash-Next 於 Strata 引擎,以及 GLM 5.3 Flash、DeepSeek V4 Flash、LFM2.5、Qwen3.6、Ornith 1.5、Gemma 4、Tiel Coder 和 MiniCPM-V 於為 PolyStrata 撰寫的第二個引擎。Windows 和 Linux 一鍵安裝,OpenAI/Anthropic API 於 localhost。
PolyStrata 概覽
這是什麼
PolyStrata 是一個軟體專案,讓使用者在自己的個人電腦上執行大型 AI 模型。它提供一個伺服器,可在兩個引擎上執行十個模型,支援本機對話、程式碼生成,以及與應用程式和編碼代理整合。此專案基於 Niko1221 的 Strata 專案,採用 MIT 授權,為免費開源軟體。
主要功能
- 在本機執行十個大型 AI 模型:Qwen3.8-Flash-Next、GLM 5.3 Flash、DeepSeek V4 Flash、LFM2.5、Flint、Qwen3.6、Ornith 1.5、Gemma 4、Tiel Coder 和 MiniCPM-V。
- 兩個引擎:一個用於 Qwen3.8-Flash-Next(Strata 專案的引擎),另一個為 PolyStrata 編寫的引擎,用於執行其餘九個模型。
- Windows 和 Linux 一鍵安裝;支援 NVIDIA 和 AMD 顯示卡(各模型有特定需求)。
- 在 localhost 上提供 OpenAI/Anthropic 相容的 API。
- 可在伺服器運行時切換已安裝的模型。
- 部分模型可讀取圖片(Qwen3.8-Flash-Next、Qwen3.6、Ornith 1.5、Gemma 4、Tiel Coder、MiniCPM-V)。
使用情境
- 在個人電腦上執行大型 AI 模型進行對話和程式碼生成,無需將資料傳送至外部伺服器。
- 透過 MCP 伺服器,將 AI 編碼助手(例如 Claude Code、Cursor、Codex、GitHub Copilot)與本機模型搭配使用。
- 開發和測試需要本機 AI 推論的應用程式,並支援多種模型。
快速開始
下載 PolyStrata 並解壓縮(或使用 git clone)。Windows: 雙擊 START-HERE.bat。Linux: 在 PolyStrata 資料夾中執行 ./setup.sh。Mac(Apple Silicon,M1 至 M5,macOS 15 或更新版本): 先安裝 Apple 的 Command Line Tools(在終端機中執行 xcode-select --install),然後在 PolyStrata 資料夾中開啟終端機並執行 ./setup.sh。
授權與價格
PolyStrata 採用 MIT 授權,為開源軟體,價格類型標示為 open_source。請注意,LFM2.5-24B-A2B 模型的授權僅允許年收入低於 1000 萬美元的公司用於商業用途。
內容整理自該專案公開的 README 與儲存庫資訊。