ax-engine

一個 Mac 程序。多種模型。真實速度。多模型 LLM 服務，支援前綴重用、MTP 加速與 OpenAI API — 專為 Apple Silicon 打造，並與 mlx-lm 及 llama.cpp 進行實測比較。

ax-engine 是什麼？

一個 Mac 程序。多種模型。真實速度。多模型 LLM 服務，支援前綴重用、MTP 加速與 OpenAI API — 專為 Apple Silicon 打造，並與 mlx-lm 及 llama.cpp 進行實測比較。