摂動
入力データに加える小さな変更やゆらぎのこと。狙いは、元の内容を大きく変えずにモデルの出力を変えることにある。
たとえば: 料理の味はほぼ同じに見せつつ、塩をひとつまみだけ増やすような微調整。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 長方形の遮蔽だけで探す黒箱攻撃手法「STROKE」
STROKEは、向き付き長方形の遮蔽で摂動を作るスコアベース黒箱攻撃手法。軽量な貪欲最適化でクエリ効率を狙い、1–2%面積設定での成功率や所要時間削減、設計選択の影響を評価した。
