superagent
Superagent 保護您的 AI 應用程式，防止提示注入、資料外洩及有害輸出。將安全機制直接嵌入您的應用程式，並證明合規性。
superagent 是什麼？
Superagent 保護您的 AI 應用程式，防止提示注入、資料外洩及有害輸出。將安全機制直接嵌入您的應用程式，並向您的客戶證明合規性。
superagent 概覽
這是什麼
Superagent 是一個開源的 AI 代理安全 SDK。它保護 AI 應用程式免受提示注入、資料外洩和有害輸出的影響。開發者可以直接將安全功能嵌入應用程式中，並向客戶證明合規性。此專案採用 MIT 授權，為開源軟體。
主要功能
- Guard：在執行階段偵測並阻擋提示注入、惡意指令及不安全的工具呼叫。
- Redact：自動從文字中移除 PII、PHI 和機密資訊。
- Scan：分析儲存庫中針對 AI 代理的攻擊，例如儲存庫投毒和惡意指令。
- Test：針對生產環境的代理執行紅隊測試情境（即將推出）。
- 支援任何模型（OpenAI、Anthropic、Google、Groq、Bedrock 等）。
- 開放權重模型可讓你在自己的基礎設施上執行 Guard，延遲為 50-100 毫秒。
- 低延遲，專為執行階段使用最佳化。
使用情境
Superagent 可用於保護 AI 應用程式：阻擋提示注入、從使用者輸入或輸出中編輯敏感資料、掃描程式碼儲存庫中的威脅，以及針對代理執行紅隊測試。適用於任何使用 AI 模型且需要強制執行安全政策的應用程式。
快速開始
前往 superagent.sh 註冊以取得 API 金鑰。 安裝 SDK： bash npm install safety-agent bash uv add safety-agent 設定 API 金鑰： bash export SUPERAGENT_API_KEY=your-key
授權與價格
授權為 MIT。此專案為開源，未提及價格資訊。
內容整理自該專案公開的 README 與儲存庫資訊。
