higgsfield
容錯、高度可擴展的 GPU 編排,以及專為訓練數十億至數兆參數的模型所設計的機器學習框架。
higgsfield 是什麼?
容錯、高度可擴展的 GPU 編排,以及專為訓練數十億至數兆參數的模型所設計的機器學習框架。
higgsfield 概覽
這是什麼
Higgsfield 是一個開源、具容錯機制的 GPU 編排與機器學習框架,專為訓練數十億至數兆參數的模型(如大型語言模型 LLM)而設計。該框架可作為 GPU 工作負載管理工具,處理資源分配、任務排隊以及實驗監控。
主要功能
- 為訓練任務分配獨佔與非獨佔的運算資源(節點)存取權。
- 支援 ZeRO-3 DeepSpeed API 與 PyTorch 的全分片資料平行 API,可對兆級參數模型進行高效分片。
- 提供在已分配節點上啟動、執行與監控大型神經網路訓練的框架。
- 透過維護實驗佇列來管理資源競爭。
- 藉由與 GitHub 及 GitHub Actions 的整合,促進機器學習開發的持續整合。
使用情境
在分散式多節點環境中訓練擁有數十億至數兆參數的大型語言模型(LLM)。管理多位使用者或多個實驗之間的 GPU 資源競爭。透過 GitHub 工作流程自動化部署與實驗執行。
快速開始
bash$ pip install higgsfield==0.0.3關於節點設定、環境配置及執行實驗的詳細說明,請參閱儲存庫的 README 文件。
授權與價格
Higgsfield 採用 Apache-2.0 授權條款,為開源軟體。
內容整理自該專案公開的 README 與儲存庫資訊。