alignment generalization prediction
ある価値観で調整したとき、その影響が別の価値観や状況にもどんな形で広がるかを見積もる考え方。意図した変更が想定外の場面に及ぶ可能性を扱う。
たとえば: 1つのルールを厳しくしたら、他の場面の行動まで変わるかを事前に予想するようなもの。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- LLMの「価値」の学習が未学習の価値にどう波及するか——一般化を予測する課題と表現の比較
LLMの価値学習が未見の価値に及ぼす影響を予測する「alignment generalization prediction」を提案し、66価値で一般化効果を分析。活性ベース表現が記述ベースを上回り、下流では価値類似度がロバスト性と相関した。
