eino
Go 語言中最終極的 LLM/AI 應用開發框架。
eino 是什麼?
Go 語言中最終極的 LLM/AI 應用開發框架。。,。,。
eino 概覽
這是什麼
Eino 是一個用 Go 語言撰寫的 LLM 應用開發框架。它參考了 LangChain、Google ADK 及其他開源框架,並遵循 Go 語言的慣例設計。此框架提供可重複使用的元件,例如 ChatModel、Tool、Retriever 與 ChatTemplate,並包含 OpenAI、Ollama 等供應商的官方實作。此外,Eino 還包含一個代理開發套件 (ADK),可用於建構具備工具使用、多代理協調、情境管理與中斷/恢復功能的 AI 代理。Eino 也支援組合功能,可將元件連接成圖形與工作流程,這些流程可獨立執行或作為代理的工具使用。
主要功能
- 元件生態系統:定義了 ChatModel、Tool、Retriever、Embedding 等元件的抽象,並提供 OpenAI、Claude、Gemini、Ark、Ollama、Elasticsearch 等供應商的官方實作。
- 串流處理:自動處理編排過程中的串流,包括串流的串接、封裝、合併與複製,讓資料在節點間流動。
- 回呼面向:允許在元件、圖形與代理的固定點(OnStart、OnEnd、OnError 等)注入日誌、追蹤與指標。
- 中斷/恢復:任何代理或工具都可暫停執行以等待人類輸入,並從檢查點恢復,框架會處理狀態持久化與路由。
使用情境
Eino 可用於建構使用工具執行操作的對話式 AI 代理。它支援多代理協調以處理複雜任務,例如 DeepAgent 可將任務委派給子代理並追蹤進度。組合功能可建立確定性工作流程(如資料處理管線),這些流程可作為代理的工具使用。中斷/恢復功能則允許人機協作互動。
快速開始
請參閱儲存庫的 README 以取得安裝與快速開始說明。以下是一個建立 ChatModelAgent 的簡短範例: Go chatModel, _ := openai.NewChatModel(ctx, &openai.ChatModelConfig{ Model: 'gpt-4o', APIKey: os.Getenv('OPENAI_API_KEY'), }) agent, _ := adk.NewChatModelAgent(ctx, &adk.ChatModelAgentConfig{ Model: chatModel, }) runner := adk.NewRunner(ctx, adk.RunnerConfig{Agent: agent}) iter := runner.Query(ctx, 'Hello, who are you?') for { event, ok := iter.Next() if !ok { break } fmt.Println(event.Message.Content) }
授權與價格
此專案採用 Apache-2.0 授權條款。它是開源且免費使用的。
內容整理自該專案公開的 README 與儲存庫資訊。