プローブ
モデルの内部の情報を読み取り、特定の状態や特徴が出ているかを判定するための小さな判定器。外からの出力だけでなく中身の手がかりも使う。
たとえば: 人の発言だけでなく、心拍や視線など“内側のサイン”も見て見抜く検査。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 白箱プローブでLLMの欺瞞を検出する試み:大規模データセットと新アーキテクチャで評価
LLMエージェントの監視に向け、白箱プローブによる欺瞞検出をフロンティア監視設定へ拡張する研究が報告された。SHADE-ArenaでAUC 98.8%を示し、文脈だけでは判定しにくい「introspective deception」でも最大AUC 99.7%の識別を示した。
