ブラックボックス
中身の仕組みや設定が分からない相手に対して、入力と出力の様子だけを見ながら狙い通りに動かそうとするやり方。内部の詳細に触れない。
たとえば: 家電の内部回路は知らないまま、ボタン操作と反応だけで狙った動作をさせる感じ。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- Heads of Security:注意ヘッドのゲート学習でプロンプトインジェクション耐性を高める試み
Heads of Security(HoS)は、ヘッドごとの注意ゲートを学習して指示とデータを分離し、注入命令に従いにくくする防御手法だという。Llama-3.3-70B-InstructとGPT-OSS-20Bで評価され、攻撃耐性とユーティリティの両立を報告している。
