per-step gradient statistics
学習の各更新ステップごとに、モデルを直すための変化量がどんな分布や大きさかを要約した指標。学習が普通に進んでいるかの手がかりになる。
たとえば: ランニングで1kmごとのペースや心拍の記録を見て、調子を判断するのに似ている。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- SciCheck:深層学習の学習過程を「再計算なし」前提で検証する枠組み
SciCheckは、深層学習の学習(training)を科学的ワークフロー内で検証するための枠組みを提案する。勾配統計の比較と、ランダム区間の再実行(spot-check)を組み合わせ、攻撃シナリオ下での検出性能やコストも報告している。
