アラインメント
AIのふるまいを、人が望む価値観やルールに合うように整えること。危険な出力を避けたり、指示に従いやすくしたりする目的で行われる。
たとえば: 新人に「会社の方針に沿った受け答え」を身につけてもらう研修のようなもの。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- LLMの「価値」の学習が未学習の価値にどう波及するか——一般化を予測する課題と表現の比較
LLMの価値学習が未見の価値に及ぼす影響を予測する「alignment generalization prediction」を提案し、66価値で一般化効果を分析。活性ベース表現が記述ベースを上回り、下流では価値類似度がロバスト性と相関した。
