h2o-llmstudio
H2O LLM Studio - a framework and no-code GUI for fine-tuning LLMs. Documentation: https://docs.h2o.ai/h2o-llmstudio/ (English)
h2o-llmstudio 是什麼?
H2O LLM Studio - 一個用於微調大型語言模型的框架與無程式碼圖形使用者介面。文件:https://docs.h2o.ai/h2o-llmstudio/
h2o-llmstudio 概覽
這是什麼
H2O LLM Studio 是一個用於微調大型語言模型(LLM)的框架與無程式碼圖形使用者介面。它專為讓使用者無需任何程式設計經驗即可微調最先進的 LLM 而設計。此專案採用 Apache-2.0 授權條款,為開放原始碼,並託管於 GitHub(https://github.com/h2oai/h2o-llmstudio)。文件可於 https://docs.h2o.ai/h2o-llmstudio/ 取得。該專案歸類於 AI 類別,且可免費使用。
主要功能
- 專為大型語言模型設計的圖形使用者介面(GUI)。
- 使用大量超參數微調任何 LLM。
- 使用最新的微調技術,例如低秩適應(LoRA)和低記憶體佔用的 8 位元模型訓練。
- 使用強化學習(RL)微調模型(實驗性功能)。
- 使用先進的評估指標來判斷模型生成的答案。
- 以視覺化方式追蹤並比較模型效能。
- 與模型聊天,即時獲得模型效能回饋。
- 輕鬆將模型匯出至 Hugging Face Hub,與社群分享。
使用情境
H2O LLM Studio 可用於微調大型語言模型,以處理各種自然語言處理任務。它支援二元與多元分類的因果分類建模、單一目標回歸資料的因果回歸建模,以及作為 RLHF 替代方案的 DPO/IPO/KTO 最佳化。此框架適合想要無需編碼即可微調 LLM 的使用者,也適合偏好使用命令列介面進行腳本編寫與自動化的使用者。
快速開始
安裝 H2O LLM Studio 的建議方式是使用 uv 搭配 Python 3.12。若要設定環境,請執行:bashmake setup若要啟動 GUI,請執行:bashmake llmstudio導覽至 http://localhost:10101 以存取 H2O LLM Studio。如需使用 Docker,請依照儲存庫 README 中的說明拉取映像檔並執行容器。如需使用 CLI,請執行:bashuv run python llm_studio/train.py -Y {path_to_config_yaml_file}
授權與價格
此專案採用 Apache-2.0 授權條款,為開放原始碼。價格未說明;該專案歸類為開放原始碼。
內容整理自該專案公開的 README 與儲存庫資訊。