agentgateway
下一代AI代理与MCP服务器的代理网关
agentgateway 是什麼?
下一代AI代理与MCP服务器的代理网关。开源,基于Apache-2.0许可。
agentgateway 概覽
這是什麼
Agentgateway 是一個基於 AI 原生協定(MCP 與 A2A)建構的開放原始碼代理,為跨任何框架與環境的 agent-to-LLM、agent-to-tool 與 agent-to-agent 通訊提供即插即用的安全性、可觀測性與治理。它是一個 Linux 基金會專案。
主要功能
- LLM 閘道:透過統一的 OpenAI 相容 API,將流量路由至主要 LLM 供應商(OpenAI、Anthropic、Gemini、Bedrock 等),並提供預算與支出控制、提示詞增強、負載平衡與容錯移轉。
- MCP 閘道:透過 MCP 將 LLM 連接到工具與外部資料來源,支援工具聯合、stdio/HTTP/SSE/Streamable HTTP 傳輸、OpenAPI 整合與 OAuth 驗證。
- A2A 閘道:使用 A2A 啟用安全的 agent-to-agent 通訊,包含能力探索、模態協商與任務協作。
- 推論路由:使用 Kubernetes Inference Gateway 擴充功能,根據 GPU 使用率、KV 快取、LoRA 適配器與佇列深度,智慧路由至自託管模型。
- 護欄:多層內容過濾,支援正規表達式、OpenAI 審核、AWS Bedrock Guardrails、Google Model Armor 與自訂 Webhook。
- 安全性與可觀測性:驗證(JWT、API 金鑰、OAuth)、基於 CEL 政策引擎的細粒度 RBAC、速率限制、TLS 與 OpenTelemetry 指標/日誌/追蹤。
使用情境
Agentgateway 適用於任何環境中 agent-to-agent 或 agent-to-tool 的連接。可獨立部署,或使用內建控制器與 Gateway API 部署於 Kubernetes。使用情境包括將流量路由至 LLM 供應商、透過 MCP 將 LLM 連接到工具、透過 A2A 啟用安全的 agent-to-agent 通訊,以及對代理互動套用護欄與可觀測性。
快速開始
請參閱儲存庫 README 以取得獨立與 Kubernetes 快速入門說明。該專案提供內建 UI,可探索 agentgateway 連接 agent-to-agent 或 agent-to-tool。
授權與價格
Agentgateway 採用 Apache-2.0 授權的開放原始碼。
內容整理自該專案公開的 README 與儲存庫資訊。