apple-silicon-llm-bench
針對 Apple Silicon(iPhone 17 Pro、M4 Max)的可重現裝置端 LLM 基準測試:Apple Core AI、MLX、llama.cpp、LiteRT-LM 與 Core ML,均基於相同模型與測試框架
apple-silicon-llm-bench 是什麼?
針對 Apple Silicon(iPhone 17 Pro、M4 Max)的可重現裝置端 LLM 基準測試:在相同模型與測試框架上,比較 Apple Core AI、MLX、llama.cpp、LiteRT-LM 與 Core ML,每個數值皆附帶量化層級與擷取階段;並納入混合 Mamba-2 模型(Nemotron-3 Nano、Granite-4.0-H、Falcon-H1)。