haystack
開放原始碼 AI 協調框架,用於建構情境工程化、可投入生產的 LLM 應用程式。設計模組化管線與代理工作流程,具備明確控制
haystack 是什麼?
開放原始碼 AI 協調框架,用於建構情境工程化、可投入生產的 LLM 應用程式。設計模組化管線與代理工作流程,對檢索、路由、記憶與生成進行明確控制。專為可擴展代理、RAG、多模態應用、語意搜尋與對話系統而建構。
haystack 概覽
這是什麼
Haystack 是一個開源的 AI 編排框架,用於在 Python 中建立可投入生產的 LLM 應用程式。開發者可以設計模組化的管線(pipeline)和代理工作流程,並對檢索、路由、記憶和生成進行明確的控制。
主要功能
可投入生產的代理:提供生命週期鉤子(before_llm、before_tool、on_exit),內建追蹤 step_count、token_usage 和工具呼叫以進行監控與成本控制。具備現成的代理組合包(深度研究代理、進階 RAG 代理)以及透過 SkillToolset 進行漸進式技能探索。專為情境工程設計:明確控管資訊在送達模型前的檢索、排序、過濾、合併、結構化與路由流程。管線與代理工作流程透明且可追溯。原生非同步支援:單一 Pipeline 可同步或非同步執行並逐個 token 串流;Agent 可同時執行多個工具呼叫。模組化且可自訂:內建檢索、索引、工具呼叫、記憶與評估元件;使用者可建立自訂元件,並加入迴圈、分支與條件邏輯。模型與供應商無關:可整合 OpenAI、Mistral、Anthropic、Cohere、Hugging Face、Google、Azure OpenAI、AWS Bedrock 與本地模型等,無需重寫系統。可擴展的生態系統:透過一致的介面建立與分享自訂元件,支援社群與第三方擴展。
使用情境
建構可擴展的 RAG 系統、多模態應用程式、語意搜尋、問答系統、自主代理與對話系統。Haystack 適用於需要明確控制與追蹤檢索、路由、記憶與生成流程的情境。
快速開始
pip install haystack-ai若要安裝夜間預覽版:pip install --pre haystack-aiHaystack 也支援 Docker 映像檔。完整安裝指南請參閱儲存庫 README。
授權與價格
採用 Apache-2.0 授權。Haystack Enterprise Starter 與 Haystack Enterprise Platform 提供專家支援、範本、部署指南以及雲端或自託管的生產環境方案,其價格細節未在 README 中說明。
內容整理自該專案公開的 README 與儲存庫資訊。