steering agent
実行中の状態を見張り、必要なら介入して、進行を望ましい方向へ戻す役割のAI。監督役・誘導役として働く。
たとえば: 運転中に危ない方向へ行きそうなとき、助手席で注意して修正を促す同乗者。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- LLMエージェントの「目標からの逸脱」を実行中に監督するステアリング手法
LLMエージェントが実行中に目標から逸脱する「goal drift」へ対処するため、実行コンテキストを観測して介入するsteering agentを提案。介入判断と介入生成をfast/slowの2経路に分け、強化学習で共同学習する。
