SHIRITAS

用語集

KVキャッシュ

文章生成で、過去の計算の一部を保存して再利用し、同じ計算を繰り返さないようにする仕組み。主に速度やメモリ節約に関わる。

たとえば: 計算途中のメモを残しておき、次回は最初から解き直さないようにする。

AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。

この言葉が出てくる記事