敵対的攻撃
機械学習モデルが間違えるように、入力データに人には気づきにくい小さな細工を加える攻撃のこと。見た目はほぼ同じでも予測だけが崩れることがある。
たとえば: 検査に通る程度に身なりを少し変えて、本人確認をすり抜けようとするようなもの。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 長方形の遮蔽だけで探す黒箱攻撃手法「STROKE」
STROKEは、向き付き長方形の遮蔽で摂動を作るスコアベース黒箱攻撃手法。軽量な貪欲最適化でクエリ効率を狙い、1–2%面積設定での成功率や所要時間削減、設計選択の影響を評価した。
