凍結
学習中にモデルの中身(調整される値)を更新しない状態にすること。判断役を安定させたいときなどに使われる。
たとえば: 試合中はルールブックを変えず、同じ基準で判定するのに似ている。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- Ambient SFT:温度で「粗く合わせる」データ効率のよい教師あり微調整
大規模で多様なポストトレーニングデータ収集の難しさを背景に、凍結した事前学習モデルをノイズ教師として用いるAmbient SFTを提案。高温化した条件付き分布の一致を求め、標準SFTより最大21%の平均相対改善を報告する。
- Continual-ARC:継続学習の「生涯ストリーム」をARC由来タスクで測る提案
ARC-AGI由来のタスクを、再登場タスクと新規タスクが混在する「生涯ストリーム」として提示し、予算消費に基づくスコアでmemory-basedとweight-basedを同一尺度で比較するContinual-ARCを提案する。
- AutoScaffold:報酬に圧縮されがちな学習経験を「訓練時のヒント」に変える枠組み
AutoScaffoldは、RLVRで得られる訓練経験をもとに、凍結したteacherが戦略やヒント(スキャフォールド)を適応的に設計・調整する枠組みだ。4領域で、スキャフォールド無し評価でもRLベースラインを上回ったと報告している。
