O
100/100
omlx
LLM 推理伺服器具備持續批次處理與 SSD 快取功能，適用於 Apple Silicon，並從 macOS 選單列管理。
與這個工具比較比較其他選擇
milvus 的最佳替代工具
依公開專案資料，探索與 milvus 相同分類且評分較高的工具。
推薦替代工具
12 項工具
R
100/100
ragflow
RAGFlow 是一個領先的開源檢索增強生成（RAG）引擎，融合尖端 RAG 與代理能力，以創造卓越的上下文層
與這個工具比較C
100/100
crewAI
用於協調角色扮演、自主 AI 代理的框架
與這個工具比較P
100/100
prompts.chat
原名 Awesome ChatGPT Prompts。分享、發現並收藏來自社群的提示詞。免費且開源 — 為您的組織自行託管，享有完整隱私。
與這個工具比較S
100/100
sglang
SGLang 是一個高效能的大型語言模型與多模態模型服務框架。
與這個工具比較L
100/100
LightRAG
[EMNLP2025] LightRAG：簡潔且快速的檢索增強生成。
與這個工具比較A
100/100
agentscope
建立並執行您能看見、理解且信任的智能代理。
與這個工具比較B
100/100
BrowserOS
🌐 開源代理瀏覽器；ChatGPT Atlas、Perplexity Comet、Dia 的替代方案。
與這個工具比較U
100/100
unsloth
在本地端執行與訓練文字及擴散模型的 UI，支援 Kimi K3、Gemma 4、Qwen3.6、DeepSeek-V4、FLUX 等模型。
與這個工具比較J
100/100
jcode
最節省記憶體的 harness
與這個工具比較W
100/100
WrenAI
GenBI（生成式商業智慧）專為AI代理打造，透過開放式上下文層實現受治理的文字轉SQL，將自然語言問題轉化為可信儀表板
與這個工具比較J
100/100
jan
Jan 是 ChatGPT 的開源替代方案，可在您的電腦上 100% 離線運作。
與這個工具比較