枝刈り
候補が多すぎるときに、見込みの薄い候補を途中で捨てて計算を節約すること。探索の効率を上げるための絞り込み。
たとえば: 迷路で行き止まりっぽい道を早めに切り捨てて進む道を減らす感じ。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 推論の枝刈りをpass@$k$で最適化し、品質と多様性の両立を狙う手法
推論時に多数の候補解を作る手法では計算負荷が課題となる。著者らは短い途中経過(prefix)で候補を選別する際、pass@$k$を目的関数にして品質と多様性のトレードオフを直接最適化する枝刈りを提案した。8つのオープンウェイト推論モデルで既存法より良い性能を示したという。
