注意(attention)
入力のどの部分をどれだけ重視するかを重みで表す仕組み。情報を集めるときの「見る配分」を調整する。
たとえば: 文章を読むとき、重要そうな単語に視線が集まるのに近い。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 公開エンコーダだけで作る転移可能な敵対的パッチ攻撃「TAPDreamer」
ロボット制御の基盤となるworld action modelに対し、公開エンコーダのみから固定パッチを作る攻撃TAPDreamerを提案。注意機構を通じた表現シフトの拡散を利用し、閉ループ評価で複数ベンチマークの成功率を大きく低下させた。
