データ帰属
モデルの出力が、学習に使ったデータのどの部分に強く影響されたかを推定すること。根拠となった文や情報源をたどるために使われる。
たとえば: レポートの一文が、どの参考資料のどの段落を元に書かれたかを探す作業。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 機械論的解釈可能性はAI安全性にどう役立つのか:サーベイと主張評価の枠組み
本稿は、AI安全性の観点から機械論的解釈可能性を整理し、「仕組みの理解は安全性を高めるか」を問うサーベイである。行動評価との比較、基礎概念と手法群の概観に加え、主張を評価する統一フレームワークと6つの研究オリエンテーションを提示する。
- LLMのデータ帰属を「何が悪いのか」切り分ける:制御ベンチマークCATTと評価設計の論点
LLMのデータ帰属評価で失敗要因を切り分けるため、架空知識で学習させた制御ベンチマークCATTを導入。冗長性やディストラクタが性能を悪化させ、損失やトークン集約の選択が結果を大きく左右すると示す。
