agentic reasoning caches(ARCs)
よく使う推論の手順や判断を、後から繰り返し使えるように保存した仕組み。保存された内容を呼び出して、同種の問題を速く処理するのに使う。
たとえば: 毎回ゼロから計算せず、よく使う解き方を「定型手順カード」として保管しておくイメージ。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- LLMの推論結果を「CPUで動くキャッシュ」として再利用する提案:Agentic Reasoning Caching
論文は、LLMが毎回ゼロから解く非効率を問題視し、推論トレースからCPU実行可能な推論キャッシュ(ARC)を作って再利用する枠組みを提案する。数学・科学タスクで同等性能やコスト低減を報告している。
