ホワイトボックス
モデル内部の情報(仕組みや設定など)を知っている前提で、その知識を使って弱点を突く攻撃のこと。対策側にはより厳しい条件になりやすい。
たとえば: 鍵穴の構造図を見ながらピッキング方法を考えるようなもの。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- Heads of Security:注意ヘッドのゲート学習でプロンプトインジェクション耐性を高める試み
Heads of Security(HoS)は、ヘッドごとの注意ゲートを学習して指示とデータを分離し、注入命令に従いにくくする防御手法だという。Llama-3.3-70B-InstructとGPT-OSS-20Bで評価され、攻撃耐性とユーティリティの両立を報告している。
