因果的データ介入
データの一部を意図的に変えて、結果の変化がその要素の影響(原因)かどうかを確かめる考え方。単なる相関ではなく因果を見たいときに使う。
たとえば: 料理で塩だけ量を変えて、味の変化が塩のせいか確かめる実験。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 応答冒頭の「キュー」がベースモデルの推論挙動に結びつく可能性
学習データが、応答の最初のトークンとその後の推論挙動を結びつける仕組みを調べた研究。特定の開始トークンを固定すると数学タスクで精度が上がり、RLがその出現を増やす可能性や、データ介入でキュー効果を付与・除去できることを報告する。
