ms-swift
使用 PEFT 或全參數對 600 多個 LLM(Qwen3.8、DeepSeek-V4、GLM-5.1、InternLM3、Llama4 等)和 300 多個 MLLM(Qwen3-VL、Qwen3-Omni、InternVL3.5、Ovis2.5、GLM5.3、Gemma4、Llava、Phi4 等)進行 CPT、
ms-swift 是什麼?
使用 PEFT 或全參數對 600 多個 LLM(Qwen3.8、DeepSeek-V4、GLM-5.1、InternLM3、Llama4 等)和 300 多個 MLLM(Qwen3-VL、Qwen3-Omni、InternVL3.5、Ovis2.5、GLM5.3、Gemma4、Llava、Phi4 等)進行 CPT、SFT、DPO、GRPO(AAAI 2025)。
ms-swift 概覽
這是什麼
ms-swift(Scalable lightWeight Infrastructure for Fine-Tuning)是 ModelScope 社群提供的大型模型與多模態大型模型微調與部署框架。它支援 600 多個純文字大型模型與 400 多個多模態大型模型的訓練(預訓練、微調、人類對齊)、推論、評估、量化與部署。大型模型包括 Qwen3、Qwen3.5、InternLM3、GLM4.5、Mistral、DeepSeek-R1、Llama4 等。多模態大型模型包括 Qwen3-VL、Qwen3-Omni、Kimi-K3、Llava、InternVL3.5、MiniCPM-V-4、Ovis2.5、GLM4.5-V、DeepSeek-VL2 等。
主要功能
- 支援 600 多個純文字大型模型與 400 多個多模態大型模型,從訓練到部署的完整流程,並在熱門模型發佈當天即提供支援。
- 內建 150 多個資料集,涵蓋預訓練、微調、人類對齊、多模態等多種任務,並支援自訂資料集。
- 支援輕量微調方法,包括 LoRA、QLoRA、DoRA、LoRA+、LLaMAPro、LongLoRA、LoRA-GA、ReFT、RS-LoRA、Adapter、LISA 等。
- 支援分散式訓練技術,包括 DDP、DeepSpeed ZeRO2/ZeRO3、FSDP/FSDP2 以及 Megatron(TP/PP/SP/CP/ETP/EP/VPP)。
- 內建豐富的 GRPO 系列強化學習演算法,包括 GRPO、DAPO、GSPO、SAPO、CISPO、CHORD、RLOO、Reinforce++ 等。
- 支援推論加速引擎 Transformers、vLLM、SGLang 與 LmDeploy,並提供 OpenAI 介面。
- 支援使用 GPTQ、AWQ、BNB 與 FP8 技術進行模型量化。
使用情境
ms-swift 用於大型語言模型與多模態大型模型的預訓練與指令微調、透過偏好學習(DPO、KTO、RM、CPO、SimPO、ORPO 等)進行人類對齊、使用 GRPO 系列演算法進行強化學習、嵌入與重排序任務、序列分類、使用 100 多個評估資料集進行模型評估,以及為部署進行模型量化。它也支援使用 Agent 模板進行代理訓練,以及多模態打包技術以提升訓練速度。
快速開始
請參閱儲存庫的 README 以取得安裝說明。
授權與價格
授權為 Apache-2.0。此專案為開源。
內容整理自該專案公開的 README 與儲存庫資訊。