little-canary
檢測提示注入的方式,是觀察犧牲用的金絲雀模型所受影響,而非僅靠模式匹配:未經信任的輸入會先接觸一個無效模型,進行行為檢查。
little-canary 是什麼?
檢測提示注入的方式,是透過觀察犧牲用的金絲雀模型所受影響,而非僅靠模式匹配:未經信任的輸入會先送給一個無效模型,行為檢查會讀取殘留信號,並在你的主要模型運作前,回傳阻擋、標記或通過的結果。這是一個入站預檢感測器,並非絕對保證。
檢測提示注入的方式,是觀察犧牲用的金絲雀模型所受影響,而非僅靠模式匹配:未經信任的輸入會先接觸一個無效模型,進行行為檢查。
檢測提示注入的方式,是透過觀察犧牲用的金絲雀模型所受影響,而非僅靠模式匹配:未經信任的輸入會先送給一個無效模型,行為檢查會讀取殘留信號,並在你的主要模型運作前,回傳阻擋、標記或通過的結果。這是一個入站預檢感測器,並非絕對保證。