failproofai

AI 代理框架的可觀測性與強制執行。捕捉每次執行,並透過政策強制執行確保執行時期可靠性。

failproofai 是什麼?

AI 代理框架的可觀測性與強制執行。捕捉每次執行,並透過政策強制執行確保執行時期可靠性。

failproofai 概覽

這是什麼

FailproofAI 是一個針對 AI 代理工具(harness)的可觀測性與強制執行工具。它掛鉤 12 種代理工具——包括 Claude Code 和 Codex 等編碼 CLI、Hermes 等聊天閘道、以及 OpenClaw 等自託管助手——捕捉每次執行,並在危險工具呼叫執行前將其阻擋。它提供 40 個內建政策,在本機執行,並宣稱零延遲。

主要功能

  • 掛鉤 12 種代理工具,分為兩類:十個編碼 CLI 和兩個聊天/助手閘道(Hermes、OpenClaw)。
  • 捕捉每次執行並強制執行政策,可在所有 12 種工具上於工具呼叫執行前阻擋;八種工具支援回合結束閘道。
  • 提供 40 個內建政策,包括阻擋讀取機密檔案、權限提升、遞迴刪除檔案、以及未經審查的基礎設施變更。
  • 允許以 JavaScript 編寫自訂政策,放置於 .failproofai/policies/ 目錄中。
  • 提供本機儀表板,位於 localhost:8020,無需帳號或註冊,顯示工作階段歷史、模型呼叫、工具呼叫和掛鉤決策。
  • 包含託管式可觀測性服務,適用於團隊,具備執行圖表、延遲追蹤、成本追蹤、錯誤追蹤、SQL 查詢軌跡以及警報功能。

使用情境

FailproofAI 專為在編碼 CLI、聊天閘道或自託管助手中執行 AI 代理的開發人員和團隊設計。可用於強制執行安全政策、稽核代理行為,以及防止危險操作,例如檔案刪除、權限提升或未經審查的基礎設施變更。本機儀表板適合個人使用,而託管服務則支援整個機群的可觀測性與合規性。

快速開始

shnpm install -g failproofaifailproofai config # 連接你的代理和後台服務failproofai policies add FailproofAI/policies # 選擇要強制執行的政策failproofai # 在 localhost:8020 開啟儀表板

授權與價格

授權為 MIT 加上 Commons Clause——免費供內部與個人使用;商業轉售 failproofai 本身需要另行簽署協議。價格類型為開源。託管式可觀測性服務提供企業方案,可在自有叢集中自託管。

內容整理自該專案公開的 README 與儲存庫資訊。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/failproofaifailproofai.svg)](https://yunodb.com/tools/failproofaifailproofai?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/failproofaifailproofai?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/failproofaifailproofai.svg" alt="Featured on YunoDB" height="20"></a>