敵対的頑健性
わざと誤動作を誘うような入力や状況でも、性能や安全性を保てる強さのこと。想定外や悪意ある条件にどれだけ耐えられるかを表す。
たとえば: からかいや意地悪な質問をされても、落ち着いて正しく対応できる度合い。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- SafeDriveVLA:自然言語ナビの「危険な指示」に備えるための評価とVLA手法
自動運転VLAに対し、自然言語ナビが生む不安全/悪意ある指示の脆弱性を問題提起。ナビ追従とコンフリクト認識、敵対的頑健性を同時に測るベンチマークと、三段階モード予測+world model dreamingで対処するSafeDriveVLAを提案する。
