SHIRITAS

用語集

知識蒸留

性能の高いモデルの出力を手本にして、別のモデルに同じような判断を学ばせる方法。正解ラベルだけでなく「どれをどれくらい迷うか」も写す。

たとえば: 熟練者の答えだけでなく迷い方まで見て、弟子がコツを盗むような学び方。

AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。

この言葉が出てくる記事