初期化
学習を始める前に、モデルの内部の数値(重みなど)を最初にどう設定するか。出発点が違うと学習の進みやすさが変わる。
たとえば: 登山のスタート地点をどこに置くかで、頂上までの登りやすさが変わるのに似ている。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 固定特徴と学習可能表現の「あいだ」を理論で捉える:部分的に学習可能なニューラルネットの相転移
固定ランダム特徴と完全学習の中間にある「部分的に学習可能なネットワーク」について、近似誤差境界と訓練誤差に現れる改善の段階変化を定量化した研究。学習可能割合Pとミスマッチ定数から定まるκ_Pにより、改善の速さと逓減の仕方を表現する。
