コモン分布効果
同じ種類の入力(同じ偏りのプロンプト)を前提にして、モデル同士の性能差を比べる考え方。入力側をそろえたときの純粋な比較に近い。
たとえば: 同じコース・同じ天気で2台の車の燃費を比べるようなもの。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- ユーザーが適応する対話型LLMの評価は、オフラインとオンラインで「見ているもの」が変わる
対話型LLMではユーザーの適応によりプロンプトが内生的に変化し、オフライン評価とライブA/Bが推定する量がずれうる。論文は2種の推定対象を定義し、順位逆転の条件や一致の十分条件、分散増加の可能性を理論的に整理する。
