latent adversarial training
モデル内部の表現に対して、わざと厳しい変化や乱れを与え、その状況でも崩れにくいように学習させる方法。外から見えにくい内部の状態も含めて頑丈さを狙う。
たとえば: 本番で起こりうる意地悪な揺さぶりを想定して、わざと不安定な環境で練習して強くする感じ。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- モデル重みに暗号化ネットワークを埋め込み、誘発を困難にするバックドア攻撃の提案
能力評価が前提とする「隠れた能力は誘発できる」という仮定が、敵対的条件下では崩れうることを示す研究。暗号化ニューラルネットワークを重みに埋め込み、秘密トリガー時だけ実行する仕組みを構成し、誘発ベース監査の限界を論じる。
