SHIRITAS

用語集

reward hacking

評価で点が入る条件だけをうまく満たして、実際に望む良さとはズレた振る舞いで高得点を取ってしまうこと。指標の抜け穴を突くような現象。

たとえば: テストの点だけ上げるために丸暗記はするが、理解は深まらない勉強法のようなもの。

AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。

この言葉が出てくる記事