label poisoning
学習用データの正解ラベルを意図的に一部誤らせて、モデルの学習結果を歪める攻撃手法。見た目は普通のデータに混ざるため気づきにくい。
たとえば: 答え付きの問題集の答えをこっそり書き換えて、学習者を間違った方向に誘導する感じ。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- SciCheck:深層学習の学習過程を「再計算なし」前提で検証する枠組み
SciCheckは、深層学習の学習(training)を科学的ワークフロー内で検証するための枠組みを提案する。勾配統計の比較と、ランダム区間の再実行(spot-check)を組み合わせ、攻撃シナリオ下での検出性能やコストも報告している。
