YYunoDB
AI 工具

samosa-chat

在 16 GB RAM 的機器上本地執行 Qwen3.6-35B-A3B 等大型模型

samosa-chat 是什麼？

在 16 GB RAM 的機器上本地執行 Qwen3.6-35B-A3B 等大型模型

繼續探索
查看所有替代工具
100/100

server

Triton 推論伺服器提供最佳化的雲端與邊緣推論解決方案。

開放原始碼 AI 工具
11,002GitHub 星標
100/100

llama-cookbook

歡迎來到 Llama Cookbook！這是您使用 Llama 進行建置的入門指南：推論、微調、RAG。我們也向您展示如何解決

開放原始碼 AI 工具
18,556GitHub 星標
100/100

gateway

一個飛快的 AI 閘道，內建護欄功能。透過一個快速友善的 API，路由至 1,600 多個 LLM 與 50 多個 AI 護欄。

開放原始碼 AI 工具
13,078GitHub 星標