little-canary

檢測提示注入的方式,是觀察犧牲用的金絲雀模型所受影響,而非僅靠模式匹配:未經信任的輸入會先接觸一個無效模型,進行行為檢查。

little-canary 是什麼?

檢測提示注入的方式,是透過觀察犧牲用的金絲雀模型所受影響,而非僅靠模式匹配:未經信任的輸入會先送給一個無效模型,行為檢查會讀取殘留信號,並在你的主要模型運作前,回傳阻擋、標記或通過的結果。這是一個入站預檢感測器,並非絕對保證。

將此徽章加入你的 README

Featured on YunoDB 徽章樣式與說明

你是這個專案的維護者嗎?展示它已收錄於 YunoDB。

Markdown[![Featured on YunoDB](https://yunodb.com/badge/hermes-labs-ailittle-canary.svg)](https://yunodb.com/tools/hermes-labs-ailittle-canary?utm_source=github&utm_medium=badge)
HTML<a href="https://yunodb.com/tools/hermes-labs-ailittle-canary?utm_source=github&utm_medium=badge"><img src="https://yunodb.com/badge/hermes-labs-ailittle-canary.svg" alt="Featured on YunoDB" height="20"></a>