重み
ニューラルネットの内部にある多数の数値で、入力から出力を計算する規則を形作る部品。学習で調整され、モデルの容量や保存サイズに直結する。
たとえば: 料理の味付けを決める大量の配合メモがあり、その数や細かさがレシピの“情報量”になるイメージ。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- SciCheck:深層学習の学習過程を「再計算なし」前提で検証する枠組み
SciCheckは、深層学習の学習(training)を科学的ワークフロー内で検証するための枠組みを提案する。勾配統計の比較と、ランダム区間の再実行(spot-check)を組み合わせ、攻撃シナリオ下での検出性能やコストも報告している。
- CompressionBench:コーディングエージェントはLLM圧縮を自律実行できるか
本研究は、LLM圧縮を「終端タスク」として定式化し、コーディングエージェントに圧縮後の重みと推論コードまで構築させて検証する。6エージェント×6設定で評価し、PPL誘導探索と独立検証の下での達成度と失敗要因を整理した。
