adversarial-robustness-toolbox
對抗式強健工具箱 (ART) - Python 機器學習安全函式庫 - 規避、毒化、提取、推論 - 紅藍隊
adversarial-robustness-toolbox 是什麼?
對抗式強健工具箱 (ART) - Python 機器學習安全函式庫 - 規避、毒化、提取、推論 - 紅藍隊
adversarial-robustness-toolbox 概覽
這是什麼
Adversarial Robustness Toolbox (ART) 是一個用於機器學習安全的 Python 函式庫,由 Linux Foundation AI & Data Foundation (LF AI & Data) 託管。ART 提供工具,讓開發人員和研究人員能夠針對對抗性威脅(包括 Evasion、Poisoning、Extraction 和 Inference)來防禦和評估機器學習模型與應用。該函式庫支援多種主流機器學習框架,如 TensorFlow、Keras、PyTorch、scikit-learn、XGBoost、LightGBM、CatBoost 和 GPy。它處理所有資料類型(影像、表格、音訊、影片)以及機器學習任務(分類、物件偵測、語音辨識、生成、認證)。
主要功能
- 支援 Evasion、Poisoning、Extraction 和 Inference 攻擊與防禦。
- 相容於多種 ML 框架:TensorFlow、Keras、PyTorch、scikit-learn、XGBoost、LightGBM、CatBoost、GPy。
- 適用於影像、表格、音訊、影片資料類型。
- 涵蓋分類、物件偵測、語音辨識、生成和認證等任務。
- 提供紅隊(攻擊)和藍隊(防禦)活動的工具。
- 包含評估模型穩健性的指標和估計器。
使用情境
ART 用於評估和防禦機器學習模型對抗對抗性威脅。使用情境包括測試模型對 Evasion 攻擊(例如對抗性範例)、Poisoning 攻擊(資料操縱)、Model Extraction(竊取模型功能)和 Inference 攻擊(提取私人資訊)的韌性。適合安全研究人員、ML 開發人員以及需要評估和改善其 ML 系統安全性的組織。
快速開始
請參閱儲存庫 README 以取得安裝說明、範例和筆記本。
授權與價格
授權:MIT。價格:開放原始碼。
內容整理自該專案公開的 README 與儲存庫資訊。