distilabel

distilabel 概覽

這是什麼

Distilabel 是一個用於合成資料與 AI 回饋的框架，專為需要基於經過驗證的研究論文來打造快速、可靠且可擴展管線的工程師而設計。其目標是透過基於已驗證的研究方法來快速生成高品質、多樣化的資料集，並利用 AI 回饋進行生成與評判，從而加速 AI 開發。此專案為開放原始碼且由社群維護；原作者已轉移至其他專案，目前由一群社群協作者負責維護，最新的修正位於 develop 分支。

主要功能

• 程式化方法，用於構建可擴展的資料生成與 AI 回饋管線。
• 透過統一 API 整合來自任何 LLM 提供者的 AI 回饋。
• 支援多種 LLM 提供者（透過額外套件），包括 Anthropic、Cohere、Groq、Hugging Face Inference Endpoints、Hugging Face Transformers、LiteLLM、llama.cpp、Mistral AI、Ollama、OpenAI、Vertex AI、vLLM、MLX 等。
• 透過 Outlines 和 Instructor 額外套件提供結構化生成支援。
• 提供資料處理額外套件，可用於擴展（Ray）、句子嵌入（faiss、sentence-transformers）、文字聚類（UMAP、Scikit-learn）以及重複檢測（使用 datasketch 和 nltk 的 minhash）。

使用情境

• 為傳統預測型 NLP 任務（分類、萃取）以及生成式/大型語言模型場景（指令遵循、對話生成、評判）生成合成資料與 AI 回饋。
• 建立大規模偏好資料集，例如 1M OpenHermesPreference 資料集。
• 透過 AI 回饋篩選資料來改善模型效能，例如 distilabeled Intel Orca DPO 資料集與改進的 OpenHermes 模型。
• 使用最新研究論文建立特定任務的資料集，例如 haiku DPO 資料集。

快速開始

shpip install distilabel --upgrade需要 Python 3.9+。若要使用 LLM 整合，請安裝對應的額外套件，例如：shpip install distilabel[hf-inference-endpoints] --upgrade然後執行管線範例（完整的 Python 程式碼請參閱儲存庫 README）。

授權與價格

Distilabel 採用 Apache-2.0 授權，為開放原始碼軟體。

內容整理自該專案公開的 README 與儲存庫資訊。