frink
純 Rust 實作的 GGUF 推論引擎，支援量化 CPU、Metal 與 CUDA 核心、MoE 技術，以及相容 OpenAI 的伺服器。經過與 llama.cpp 的一對一基準測試。
frink 是什麼？
純 Rust 實作的 GGUF 推論引擎，支援量化 CPU、Metal 與 CUDA 核心、MoE 技術，以及相容 OpenAI 的伺服器。經過與 llama.cpp 的一對一基準測試。
繼續探索
查看所有替代工具
純 Rust 實作的 GGUF 推論引擎，支援量化 CPU、Metal 與 CUDA 核心、MoE 技術，以及相容 OpenAI 的伺服器。經過與 llama.cpp 的一對一基準測試。
純 Rust 實作的 GGUF 推論引擎，支援量化 CPU、Metal 與 CUDA 核心、MoE 技術，以及相容 OpenAI 的伺服器。經過與 llama.cpp 的一對一基準測試。
