推論
学習済みのAIモデルを使って、入力に対する出力(回答や予測)を作る段階のこと。学習して能力を変える「訓練」と区別される。
たとえば: 勉強(訓練)は終えて、試験本番で解答を作る場面。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- RynnUnify:身体性理解・長期視覚プランニング・ロボット制御をつなぐ統一モデルの提案
16BモデルRynnUnifyは、動画と言語を交えた推論で身体性理解と長期視覚プランニングを統合する。強化学習による拡張やロボット制御への展開、専用ベンチマークでの評価結果も報告された。
- 推論の枝刈りをpass@$k$で最適化し、品質と多様性の両立を狙う手法
推論時に多数の候補解を作る手法では計算負荷が課題となる。著者らは短い途中経過(prefix)で候補を選別する際、pass@$k$を目的関数にして品質と多様性のトレードオフを直接最適化する枝刈りを提案した。8つのオープンウェイト推論モデルで既存法より良い性能を示したという。
- 多数候補の「power sampling」を、1回の生成に近づける学習法OPPD
power distributionで推論を改善する際の「多数候補を生成して採点する」負担を減らすため、1回の生成で同様の効果を狙う学習手法OPPDを提案。MATH500やGSM8Kなどで単発生成の精度向上を報告している。
