ライブA/Bテスト
実際の利用環境で、利用者をランダムに2条件に分けて結果を比べる実験方法。現実の行動や状況の影響も込みで差を測りやすい。
たとえば: 新メニューを半分の客にだけ出して、売れ行きを比べる試食テストに近い。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- ユーザーが適応する対話型LLMの評価は、オフラインとオンラインで「見ているもの」が変わる
対話型LLMではユーザーの適応によりプロンプトが内生的に変化し、オフライン評価とライブA/Bが推定する量がずれうる。論文は2種の推定対象を定義し、順位逆転の条件や一致の十分条件、分散増加の可能性を理論的に整理する。
