mlx-tune
在搭載 Apple Silicon 的 Mac 上微調 LLM。SFT、DPO、GRPO、Vision、TTS、STT、Embedding 和 OCR 微調 — 原生於 MLX。與 Unsloth 相容的 API。
mlx-tune 是什麼？
在搭載 Apple Silicon 的 Mac 上微調 LLM。SFT、DPO、GRPO、Vision、TTS、STT、Embedding 和 OCR 微調 — 原生於 MLX。與 Unsloth 相容的 API。
mlx-tune 概覽
這是什麼
mlx-tune 是一個能在 Apple Silicon Mac 上微調大型語言模型（LLM）、視覺語言模型（VLM）、文字轉語音（TTS）、語音轉文字（STT）、嵌入（Embedding）與 OCR 模型的工具。它將 Apple 的 MLX 框架包裝成與 Unsloth 相容的 API，讓使用者可以在 Mac 上撰寫訓練腳本，然後在 CUDA 叢集上執行相同的腳本。本專案並非官方 Unsloth 專案，也不打算取代 Unsloth；其目標是讓程式碼能在本機 Mac 原型開發與雲端 GPU 生產環境之間移植。
主要功能
- 在 MLX 上原生微調 LLM、VLM、TTS、STT、嵌入與 OCR 模型。
- 與 Unsloth 相容的 API：
FastLanguageModel、SFTTrainer等類別可使用與 Unsloth 相同的程式碼。 - 支援多種訓練方法：SFT、DPO、ORPO、GRPO、KTO、SimPO 以及基於 JEPA 的目標（LeJEPA、I-JEPA、V-JEPA 2、LLM-JEPA）。
- 可將模型匯出為 HuggingFace 格式或 GGUF 格式，供 Ollama/llama.cpp 使用。
- 支援 MoE 微調、持續預訓練以及音訊微調（5 個 TTS 模型、7 個 STT 模型）。
- 包含 JEPA 系列：從頭訓練的 ViT SSL（LeJEPA）、預訓練的 I-JEPA、V-JEPA 2 影片世界模型，以及用於 LLM 微調的 LLM-JEPA。
使用情境
- 在投入雲端 GPU 成本之前，先在本機 Mac 上原型開發與實驗微調。
- 透過快速的本機回饋循環來開發與迭代訓練流程。
- 使用相同的腳本，擴展到雲端 NVIDIA GPU 並搭配原始 Unsloth 進行生產訓練。
- 在本機微調音訊模型（TTS、STT）與 OCR 模型。
快速開始
使用 uv（建議）安裝 mlx-tune： bash uv pip install mlx-tune 安裝後，從 mlx_tune 匯入 FastLanguageModel 與 SFTTrainer，而非從 unsloth 匯入。詳細的快速入門範例請參閱儲存庫的 README。
授權與價格
本專案採用 Apache-2.0 授權，為開源軟體。
內容整理自該專案公開的 README 與儲存庫資訊。
