goal drift
作業の途中で判断が積み重なり、当初の目標から少しずつ外れていく現象。結果として遠回りになったり、意図と違う結末になったりする。
たとえば: 買い物の寄り道が増えて、最初に買うはずだった物を忘れて帰るようなもの。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- LLMエージェントの「目標からの逸脱」を実行中に監督するステアリング手法
LLMエージェントが実行中に目標から逸脱する「goal drift」へ対処するため、実行コンテキストを観測して介入するsteering agentを提案。介入判断と介入生成をfast/slowの2経路に分け、強化学習で共同学習する。
