llm-engineer-toolkit
一個按類別精心整理的清單,內含 120 多個 LLM 程式庫。
llm-engineer-toolkit 是什麼?
一個按類別精心整理的清單,內含 120 多個 LLM 程式庫。
llm-engineer-toolkit 概覽
這是什麼
LLM Engineer Toolkit 是一個按類別整理的 120 多個 LLM 函式庫的精選清單。該儲存庫為開發人員和研究人員提供大型語言模型相關資源的參考。
主要功能
- 精選 120+ 個 LLM 函式庫,分為訓練、微調、應用開發、RAG、代理、評估等多個類別。
- 包含 LLM 訓練與微調函式庫(例如 unsloth、PEFT、TRL、Transformers、Axolotl、LitGPT、Llama-Factory、DeepSpeed、torchtune 等)。
- 涵蓋 LLM 應用開發框架(LangChain、Llama Index、HayStack、Prompt flow、Griptape、Weave、Llama Stack)與資料準備工具(Data Prep Kit)。
- 提供多 API 存取函式庫(LiteLLM、AI Gateway、Bifrost)、路由器(OpenRoutiQ、RouteLLM)與記憶體解決方案。
- 也列出 LLM 推論、服務、資料萃取、資料生成、代理、評估、監控、提示詞、結構化輸出、安全與防護以及嵌入模型的函式庫。
- 參考相關儲存庫,包含 LLM 面試問題、提示工程技術與調查論文。
使用情境
- 針對 LLM 訓練、微調、應用開發、RAG、代理、評估、監控與安全等任務,尋找並選擇合適的函式庫。
- 尋找資料準備、多供應商 API 存取、路由與記憶體管理的工具。
- 探索結構化輸出、嵌入模型與提示工程的函式庫。
快速開始
請參閱儲存庫的 README 以取得詳細資訊。
授權與價格
Apache-2.0 授權。開源。
內容整理自該專案公開的 README 與儲存庫資訊。