raft

RAFT(Retrieval-Augmented Fine-Tuning)是一種包含微調與基於 RAG 的檢索階段的方法,特別適合用於建立能真實模擬特定人類目標的代理。

raft 是什麼?

RAFT(Retrieval-Augmented Fine-Tuning)是一種包含微調與基於 RAG 的檢索階段的方法,特別適用於建立能真實模擬特定人類目標的代理。

raft 概覽

這是什麼

RAFT(Retrieval-Augmented Fine-Tuning,檢索增強微調)是一種結合微調與基於 RAG 的檢索階段的方法。它專為建立能逼真模仿特定人類目標的代理而設計。此儲存庫包含從多種來源匯入資料、訓練角色模型以及生成帶有回憶的回應的工具。

主要功能

  • 結合微調與 RAG 檢索,以模仿特定人類目標。
  • 透過 raft fetch 指令從 Substack、LessWrong、EA Forum、Twitter/X、RSS 訂閱、URL 和 PDF 匯入資料。
  • 支援思考模型,使用 --thinking 在思考階段進行回憶。
  • 使用引文錨定回憶:回憶必須引用來源材料中的逐字句子。
  • 提供 raft comment 指令,針對給定的文章或文字生成角色的評論。
  • 允許為角色模型、輔助 LLM 和嵌入使用不同的 API 端點。

使用情境

  • 根據個人的公開文字建立能模仿該人物的對話代理。
  • 從論壇留言、部落格文章、推文及其他文字來源建立角色。
  • 研究語言模型行為以及模仿確定性模式的能力。

快速開始

透過 pip 安裝套件: pip install -U raft-ft 使用範例:匯入 Substack 部落格作為角色: raft fetch substack --blog garymarcus 詳細說明請參閱儲存庫的 README。

授權與價格

授權:MIT。開源軟體。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/lumpenspaceraft.svg)](https://yunodb.com/tools/lumpenspaceraft?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/lumpenspaceraft?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/lumpenspaceraft.svg" alt="Featured on YunoDB" height="20"></a>