SHIRITAS

用語集

敵対的攻撃

機械学習モデルが間違えるように、入力データに人には気づきにくい小さな細工を加える攻撃のこと。見た目はほぼ同じでも予測だけが崩れることがある。

たとえば: 検査に通る程度に身なりを少し変えて、本人確認をすり抜けようとするようなもの。

AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。

この言葉が出てくる記事