SHIRITAS

用語集

self-distillation

モデル自身(またはその別版)が出した出力を教師のように使い、学習し直して安定させたり改善したりする学習法。複数の出力をまとめて学ぶ形になることもある。

たとえば: 自分の解答を見直して、より良い解き方に書き換えて覚え直す勉強。

AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。

この言葉が出てくる記事