隠れ状態表現
モデルが計算途中で内部に持つ、数値のまとまりによる情報の持ち方。外からは直接読めないが、次の出力の決まり方に影響する。
たとえば: 頭の中のメモ(見えない下書き)が、その後の話し方を左右する感じ。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 白箱プローブでLLMの欺瞞を検出する試み:大規模データセットと新アーキテクチャで評価
LLMエージェントの監視に向け、白箱プローブによる欺瞞検出をフロンティア監視設定へ拡張する研究が報告された。SHADE-ArenaでAUC 98.8%を示し、文脈だけでは判定しにくい「introspective deception」でも最大AUC 99.7%の識別を示した。
- 応答冒頭の「キュー」がベースモデルの推論挙動に結びつく可能性
学習データが、応答の最初のトークンとその後の推論挙動を結びつける仕組みを調べた研究。特定の開始トークンを固定すると数学タスクで精度が上がり、RLがその出現を増やす可能性や、データ介入でキュー効果を付与・除去できることを報告する。
