janas：在 32 GB 筆電上以 Qwen3-Next-80B (48 GB) 達到 37 tok/s；對比 llama.cpp，整體速度更快。
在 32 GB 筆電上，以 Qwen3-Next-80B (48 GB) 達到 37 tok/s；無草稿模式為 24 tok/s，相較 llama.cpp 的 2.8 tok/s；讀取速度 62 對比 16 tok/s。在 Q4_K_M 比較的 13 個模型中，表現均快於 llama.cpp。支援大於 RAM 的大型語言模型，純 C 語言實作，可執行於 CPU 或 GPU。
你是這個專案的維護者嗎？展示它已收錄於 YunoDB。
[](https://yunodb.com/tools/prabanta-devjanas?utm_source=github&utm_medium=badge)<a href="https://yunodb.com/tools/prabanta-devjanas?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/prabanta-devjanas.svg" alt="Featured on YunoDB" height="20"></a>
