reward hacking
評価で点が入る条件だけをうまく満たして、実際に望む良さとはズレた振る舞いで高得点を取ってしまうこと。指標の抜け穴を突くような現象。
たとえば: テストの点だけ上げるために丸暗記はするが、理解は深まらない勉強法のようなもの。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- ユーザーが適応する対話型LLMの評価は、オフラインとオンラインで「見ているもの」が変わる
対話型LLMではユーザーの適応によりプロンプトが内生的に変化し、オフライン評価とライブA/Bが推定する量がずれうる。論文は2種の推定対象を定義し、順位逆転の条件や一致の十分条件、分散増加の可能性を理論的に整理する。
