スケーリング
モデルや学習量を大きくしたときに、性能・計算量・費用などがどう変わるかという見方。規模を変えても成り立つ傾向を扱う。
たとえば: レシピを10人前に増やしたとき、味や手間がどう変わるかを見る感覚。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- LLMアーキテクチャ研究の記録・レビュー・参照を支える公開基盤「ArchSpace」
LLMのアーキテクチャ提案を、実験と推論込みで記録し、コミュニティがレビューし後続研究が参照できる公開プラットフォーム「ArchSpace」を提案する。小規模実験からスケーリング則で大規模の損失を予測し、学術界と産業界の評価ギャップを埋める狙いがある。
