推論コード
学習済みモデルを動かして出力を得るためのプログラムや実装のこと。モデル本体だけでなく、正しく実行できる形になっている必要がある。
たとえば: 家電(モデル)だけあっても動かず、電源や操作手順(コード)が揃って初めて使えるのに似ている。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- CompressionBench:コーディングエージェントはLLM圧縮を自律実行できるか
本研究は、LLM圧縮を「終端タスク」として定式化し、コーディングエージェントに圧縮後の重みと推論コードまで構築させて検証する。6エージェント×6設定で評価し、PPL誘導探索と独立検証の下での達成度と失敗要因を整理した。
