SHIRITAS

用語集

label poisoning

学習用データの正解ラベルを意図的に一部誤らせて、モデルの学習結果を歪める攻撃手法。見た目は普通のデータに混ざるため気づきにくい。

たとえば: 答え付きの問題集の答えをこっそり書き換えて、学習者を間違った方向に誘導する感じ。

AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。

この言葉が出てくる記事