plano
Plano 是一個適用於代理型應用程式的 AI 原生代理伺服器與資料平面。智慧型 LLM 路由、可觀測性、代理協調和防護措施,讓您專注於
plano 是什麼?
Plano 是一個適用於代理型應用程式的 AI 原生代理伺服器與資料平面。智慧型 LLM 路由、可觀測性、代理協調和防護措施,讓您專注於代理程式的核心邏輯。
plano 概覽
這是什麼
Plano 是一個專為代理型應用設計的 AI-native 代理伺服器與數據平面。它將常見的交付問題(如 LLM 路由、可觀測性、代理協調以及防護機制)集中處理,讓開發者能專注於核心的代理邏輯。此專案由領先的 LLM 研究團隊支援,並由 Envoy 核心貢獻者基於 Envoy 建構。
主要功能
- 協調(Orchestration): 低延遲的代理間協調,無需修改應用程式碼即可新增代理。
- 模型靈活性(Model Agility): 可依模型名稱、別名(語意名稱)或自動依偏好進行路由。
- 代理信號(Agentic Signals™): 無需撰寫程式碼即可捕捉信號,並在每個代理上取得 OpenTelemetry 追蹤與指標。
- 審查與記憶掛鉤(Moderation & Memory Hooks): 經由 Filter Chains 建立越獄保護、加入審查政策,並一致地實作記憶功能。
使用情境
Plano 適用於以下情境:將多代理工作流程產品化、跨多個供應商管理 LLM 路由、為代理互動加入防護與審查機制,以及擷取可觀測性信號以持續改善。它特別適合那些希望避免為從展示到正式上線而打造「隱形中介層」的代理型應用開發團隊。
快速開始
請參閱儲存庫的 README 檔案以了解先決條件與詳細設定說明。以下指令可透過 YAML 設定檔啟動 Plano:bashplanoai up config.yaml
授權與價格
此專案採用 Apache-2.0 授權條款開放原始碼。Plano 與 Plano 系列 LLM 在美國中部區域免費託管,供開發使用。若要擴展至正式環境,使用者可選擇在本機執行這些 LLM,或透過 Discord 聯繫專案團隊以取得 API 金鑰。
內容整理自該專案公開的 README 與儲存庫資訊。