バックドア攻撃
一見ふつうに動く仕組みに、特定の合図が来たときだけ別の動作をする“裏口”を仕込む攻撃。普段のテストでは見つかりにくい。
たとえば: 普段は普通の鍵なのに、特定の合図でだけ開いてしまう隠し鍵を仕込むようなもの。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- モデル重みに暗号化ネットワークを埋め込み、誘発を困難にするバックドア攻撃の提案
能力評価が前提とする「隠れた能力は誘発できる」という仮定が、敵対的条件下では崩れうることを示す研究。暗号化ニューラルネットワークを重みに埋め込み、秘密トリガー時だけ実行する仕組みを構成し、誘発ベース監査の限界を論じる。
