S
SwiftLM
⚡ 專為 Apple Silicon 打造的原生 MLX Swift LLM 推論伺服器。相容 OpenAI API、支援 SSD 串流處理 100B+ MoE 模型、TurboQuant KV 快取壓縮、MACOS +
SwiftLM 是什麼?
⚡ 專為 Apple Silicon 打造的原生 MLX Swift LLM 推論伺服器。相容 OpenAI API、支援 SSD 串流處理 100B+ MoE 模型、TurboQuant KV 快取壓縮、MACOS + iOS iPhone 應用程式。