raft
RAFT(Retrieval-Augmented Fine-Tuning)是一種包含微調與基於 RAG 的檢索階段的方法,特別適合用於建立能真實模擬特定人類目標的代理。
raft 是什麼?
RAFT(Retrieval-Augmented Fine-Tuning)是一種包含微調與基於 RAG 的檢索階段的方法,特別適用於建立能真實模擬特定人類目標的代理。
raft 概覽
這是什麼
RAFT(Retrieval-Augmented Fine-Tuning,檢索增強微調)是一種結合微調與基於 RAG 的檢索階段的方法。它專為建立能逼真模仿特定人類目標的代理而設計。此儲存庫包含從多種來源匯入資料、訓練角色模型以及生成帶有回憶的回應的工具。
主要功能
- 結合微調與 RAG 檢索,以模仿特定人類目標。
- 透過
raft fetch指令從 Substack、LessWrong、EA Forum、Twitter/X、RSS 訂閱、URL 和 PDF 匯入資料。 - 支援思考模型,使用
--thinking在思考階段進行回憶。 - 使用引文錨定回憶:回憶必須引用來源材料中的逐字句子。
- 提供
raft comment指令,針對給定的文章或文字生成角色的評論。 - 允許為角色模型、輔助 LLM 和嵌入使用不同的 API 端點。
使用情境
- 根據個人的公開文字建立能模仿該人物的對話代理。
- 從論壇留言、部落格文章、推文及其他文字來源建立角色。
- 研究語言模型行為以及模仿確定性模式的能力。
快速開始
透過 pip 安裝套件: pip install -U raft-ft 使用範例:匯入 Substack 部落格作為角色: raft fetch substack --blog garymarcus 詳細說明請參閱儲存庫的 README。
授權與價格
授權:MIT。開源軟體。
內容整理自該專案公開的 README 與儲存庫資訊。