turboquant-mlx
針對 Apple Silicon 上 LLM 的極致權重 + KV 快取壓縮(Google TurboQuant 的 MLX 實作)
turboquant-mlx 是什麼?
針對 Apple Silicon 上 LLM 的極致權重與 KV 快取壓縮(Google TurboQuant 的 MLX 實作)
針對 Apple Silicon 上 LLM 的極致權重 + KV 快取壓縮(Google TurboQuant 的 MLX 實作)
針對 Apple Silicon 上 LLM 的極致權重與 KV 快取壓縮(Google TurboQuant 的 MLX 實作)