failproofai
AI 代理框架的可觀測性與強制執行。捕捉每次執行,並透過政策強制執行確保執行時期可靠性。
failproofai 是什麼?
AI 代理框架的可觀測性與強制執行。捕捉每次執行,並透過政策強制執行確保執行時期可靠性。
failproofai 概覽
這是什麼
FailproofAI 是一個針對 AI 代理工具(harness)的可觀測性與強制執行工具。它掛鉤 12 種代理工具——包括 Claude Code 和 Codex 等編碼 CLI、Hermes 等聊天閘道、以及 OpenClaw 等自託管助手——捕捉每次執行,並在危險工具呼叫執行前將其阻擋。它提供 40 個內建政策,在本機執行,並宣稱零延遲。
主要功能
- 掛鉤 12 種代理工具,分為兩類:十個編碼 CLI 和兩個聊天/助手閘道(Hermes、OpenClaw)。
- 捕捉每次執行並強制執行政策,可在所有 12 種工具上於工具呼叫執行前阻擋;八種工具支援回合結束閘道。
- 提供 40 個內建政策,包括阻擋讀取機密檔案、權限提升、遞迴刪除檔案、以及未經審查的基礎設施變更。
- 允許以 JavaScript 編寫自訂政策,放置於
.failproofai/policies/目錄中。 - 提供本機儀表板,位於
localhost:8020,無需帳號或註冊,顯示工作階段歷史、模型呼叫、工具呼叫和掛鉤決策。 - 包含託管式可觀測性服務,適用於團隊,具備執行圖表、延遲追蹤、成本追蹤、錯誤追蹤、SQL 查詢軌跡以及警報功能。
使用情境
FailproofAI 專為在編碼 CLI、聊天閘道或自託管助手中執行 AI 代理的開發人員和團隊設計。可用於強制執行安全政策、稽核代理行為,以及防止危險操作,例如檔案刪除、權限提升或未經審查的基礎設施變更。本機儀表板適合個人使用,而託管服務則支援整個機群的可觀測性與合規性。
快速開始
shnpm install -g failproofaifailproofai config # 連接你的代理和後台服務failproofai policies add FailproofAI/policies # 選擇要強制執行的政策failproofai # 在 localhost:8020 開啟儀表板
授權與價格
授權為 MIT 加上 Commons Clause——免費供內部與個人使用;商業轉售 failproofai 本身需要另行簽署協議。價格類型為開源。託管式可觀測性服務提供企業方案,可在自有叢集中自託管。
內容整理自該專案公開的 README 與儲存庫資訊。