txtai
💡 全方位AI框架,適用於語意搜尋、LLM編排與語言模型工作流程
txtai 是什麼?
💡 全方位AI框架,適用於語意搜尋、LLM編排與語言模型工作流程
txtai 概覽
這是什麼
txtai 是一個全方位的 AI 框架,專為語意搜尋、LLM 編排與語言模型工作流程而設計。其核心是嵌入資料庫,結合了向量索引(稀疏與稠密)、圖形網路與關聯式資料庫。這個基礎支援向量搜尋,並可作為大型語言模型(LLM)應用的知識來源。txtai 使用 Python 3.11+、Hugging Face Transformers、Sentence Transformers 與 FastAPI 建構。
主要功能
- 支援 SQL、物件儲存、主題建模、圖形分析與多模態索引的向量搜尋 - 為文字、文件、音訊、圖片與影片建立嵌入 - 由語言模型驅動的管道,可執行 LLM 提示、問答、標記、轉錄、翻譯、摘要等任務 - 工作流程可串接多個管道並整合商業邏輯 - 代理程式能智慧地連接嵌入、管道、工作流程與其他代理,自主解決複雜問題 - 提供 Web 與 Model Context Protocol (MCP) API,並有 JavaScript、Java、Rust 與 Go 的繫結 - 內建預設值可快速上手;支援本機執行或透過容器編排擴展
使用情境
- 語意搜尋:建構理解自然語言意義的語意/相似度/向量/神經搜尋應用。
- LLM 編排:自主代理、檢索增強生成(RAG)、與資料對話、以及與大型語言模型互動的管道與工作流程。
- 語言模型工作流程:串接語言模型以執行抽取式問答、摘要、文字轉語音、轉錄與翻譯等任務。
快速開始
透過 pip 安裝: pip install txtai 快速入門範例: python import txtai embeddings = txtai.Embeddings() embeddings.index([“Correct”, “Not what we hoped”]) embeddings.search(“positive”, 1) #[(0, 0.29862046241760254)] 更多細節請參閱儲存庫的 README。
授權與價格
txtai 採用 Apache 2.0 授權條款,為開源軟體。除開源外未提供其他價格資訊。
內容整理自該專案公開的 README 與儲存庫資訊。