誘導分布効果
モデルとのやり取りの結果として入力の出方自体が変わる状況で、その上での性能差を比べる考え方。使われ方がモデルによって変わる点を含めて評価する。
たとえば: 接客が良い店ほど客が増えて注文内容も変わり、その状態で売上を比べるイメージ。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- ユーザーが適応する対話型LLMの評価は、オフラインとオンラインで「見ているもの」が変わる
対話型LLMではユーザーの適応によりプロンプトが内生的に変化し、オフライン評価とライブA/Bが推定する量がずれうる。論文は2種の推定対象を定義し、順位逆転の条件や一致の十分条件、分散増加の可能性を理論的に整理する。
