Adrian
開放原始碼的執行時期 AI 代理安全工具 - 即時監控與控制 AI 代理,在代理採取行動前,捕捉惡意工具使用、提示注入與政策偏移。
Adrian 是什麼?
開放原始碼的執行時期 AI 代理安全工具 - 即時監控與控制 AI 代理,在代理採取行動前,捕捉惡意工具使用、提示注入與政策偏移。
Adrian 概覽
這是什麼
Adrian 是一個開源、符合 AARM 規範的 AI 代理執行時期安全監控與控制引擎。它同時分析代理的活動日誌(工具呼叫、動作、輸出)與推理軌跡,以偵測惡意、偏差或超出權限的行為,並可選擇在動作執行前進行干預。它被描述為一個開源的執行時期 AI 代理安全工具,能夠即時監控與控制 AI 代理,在代理採取行動前捕捉惡意工具使用、提示注入與政策偏移。
主要功能
- 同時分析代理活動日誌與推理軌跡以偵測攻擊。
- 偵測提示注入、越獄、工具毒化、資料外洩、權限提升與超出權限的動作。
- 可選擇在執行中干預,封鎖或暫停動作以待核准。
- 提供 Python(LangChain、Anthropic)與 TypeScript 的 SDK。
- 包含原生的 Claude Code 外掛,可從終端機保護每個工具呼叫。
- 使用理解代理預期行為的分類器,而非僅依賴已知攻擊模式。
- 根據 OpenAI 與 DeepMind 的研究,相較於僅監控行為,可提升 +35% 的偵測準確率,並捕捉 4 倍更細微的攻擊。
使用情境
- 捕捉直接與間接的提示注入與越獄攻擊。
- 偵測工具毒化與不安全或違反政策的工具呼叫。
- 防止資料外洩與機密/憑證洩漏。
- 識別權限提升與超出權限的動作。
- 在生產環境中即時保護 AI 代理的安全。
快速開始
sh pip install adrian-sdk pip install langchain langchain-openai # 或 langchain-anthropic 等 若要自行託管 Docker 版本: sh git clone https://github.com/secureagentics/Adrian cd Adrian docker compose --profile setup run --rm setup bootstrap docker compose --profile llm up -d
授權與價格
採用 Apache-2.0 授權。開源且永久免費。
內容整理自該專案公開的 README 與儲存庫資訊。