haystack

開放原始碼 AI 協調框架,用於建構情境工程化、可投入生產的 LLM 應用程式。設計模組化管線與代理工作流程,具備明確控制

haystack 是什麼?

開放原始碼 AI 協調框架,用於建構情境工程化、可投入生產的 LLM 應用程式。設計模組化管線與代理工作流程,對檢索、路由、記憶與生成進行明確控制。專為可擴展代理、RAG、多模態應用、語意搜尋與對話系統而建構。

haystack 概覽

這是什麼

Haystack 是一個開源的 AI 編排框架,用於在 Python 中建立可投入生產的 LLM 應用程式。開發者可以設計模組化的管線(pipeline)和代理工作流程,並對檢索、路由、記憶和生成進行明確的控制。

主要功能

可投入生產的代理:提供生命週期鉤子(before_llm、before_tool、on_exit),內建追蹤 step_count、token_usage 和工具呼叫以進行監控與成本控制。具備現成的代理組合包(深度研究代理、進階 RAG 代理)以及透過 SkillToolset 進行漸進式技能探索。專為情境工程設計:明確控管資訊在送達模型前的檢索、排序、過濾、合併、結構化與路由流程。管線與代理工作流程透明且可追溯。原生非同步支援:單一 Pipeline 可同步或非同步執行並逐個 token 串流;Agent 可同時執行多個工具呼叫。模組化且可自訂:內建檢索、索引、工具呼叫、記憶與評估元件;使用者可建立自訂元件,並加入迴圈、分支與條件邏輯。模型與供應商無關:可整合 OpenAI、Mistral、Anthropic、Cohere、Hugging Face、Google、Azure OpenAI、AWS Bedrock 與本地模型等,無需重寫系統。可擴展的生態系統:透過一致的介面建立與分享自訂元件,支援社群與第三方擴展。

使用情境

建構可擴展的 RAG 系統、多模態應用程式、語意搜尋、問答系統、自主代理與對話系統。Haystack 適用於需要明確控制與追蹤檢索、路由、記憶與生成流程的情境。

快速開始

pip install haystack-ai若要安裝夜間預覽版:pip install --pre haystack-aiHaystack 也支援 Docker 映像檔。完整安裝指南請參閱儲存庫 README。

授權與價格

採用 Apache-2.0 授權。Haystack Enterprise Starter 與 Haystack Enterprise Platform 提供專家支援、範本、部署指南以及雲端或自託管的生產環境方案,其價格細節未在 README 中說明。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/deepset-aihaystack.svg)](https://yunodb.com/tools/deepset-aihaystack?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/deepset-aihaystack?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/deepset-aihaystack.svg" alt="Featured on YunoDB" height="20"></a>