leave-one-out(LOO)
入力の一部を1つだけ取り除いた場合に、出力がどれだけ変わるかを見て、どの部分が効いていたかを測る考え方。影響の大きさを比べるのに使う。
たとえば: 料理で具材を1つ抜いた試作をして、味の変化からその具材の重要度を推測する感じ。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 言語モデルの「どの文脈が効いたか」を少ない評価回数で推定するスケッチング手法
プロンプトの一部を抜いたときの出力変化(LOO attribution)を、安定性仮定の下で少ないモデル評価回数で推定する手法を提案。必要回数の上界と、オラクルモデルでの一致する下界を示した。
