ludwig
用於建置自訂 LLM、神經網路及其他 AI 模型的低程式碼框架
ludwig 是什麼?
用於建置自訂 LLM、神經網路及其他 AI 模型的低程式碼框架
ludwig 概覽
這是什麼
Ludwig 是一個宣告式深度學習框架,專為大型語言模型、多模態模型與表格型 AI 設計。你只需要一個 YAML 設定檔,就能訓練、微調與部署 AI 模型,完全不需要樣板 Python 程式碼。技術棧包含 Python 3.12、PyTorch 2.7+、Pydantic 2、Transformers 5 與 Ray 2.54。Ludwig 由 Linux Foundation AI & Data 託管。
主要功能
- 宣告式 YAML 設定,用於訓練、微調與部署 AI 模型 - 支援 LLM 微調(SFT、DPO、KTO、ORPO、GRPO)與多種 PEFT 適配器(LoRA、DoRA、VeRA、PiSSA 等),以及量化(bitsandbytes、torchao) - 多模態與表格模型:輸入模態包含文字、數值、類別、圖片、音訊、時間序列、向量與日期 - 時間序列預測:PatchTST 與 N-BEATS 編碼器、MASE/sMAPE 指標,以及
model.forecast()API - 多任務學習:Nash-MTL 與 Pareto-MTL 損失平衡 - 影像分割解碼器(UNet、SegFormer、FPN)用於語意分割
使用情境
- 微調 LLM 進行指令微調(例如使用 LoRA 微調 Llama-3.1) - 訓練結合文字、數值與圖片輸入的多模態分類器 - 使用
ludwig generate_config從自然語言產生模型設定 - 使用ludwig predict對新資料進行預測 - 使用ludwig serve啟動 REST API 進行模型服務 - 訓練表格分類器、時間序列預測器與多任務模型
快速開始
bash pip install ludwig # 核心套件 pip install ludwig[full] # 所有選用相依套件 pip install ludwig[llm] # 僅 LLM 微調 # 範例:微調 LLM ludwig train --config model.yaml --dataset my_data.csv
授權與價格
授權為 Apache-2.0。此專案為開放原始碼。
內容整理自該專案公開的 README 與儲存庫資訊。