最小介入フィルタ
元の行動をなるべく変えず、必要な分だけ小さく修正して安全を満たそうとする考え方。修正量を小さくすること自体が目的になっている。
たとえば: 文章を赤ペンで直すとき、意味を保つために最小限の修正だけ入れるのに似ている。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 安全フィルタを学習で償却する「FAITH」:高次元ロボット向けSafe RLの提案
FAITHは、安全と性能の競合を避けるため行動実行時に安全フィルタをかける枠組みを提案する。解析的モデル不要で安全価値を近似し、介入を最小にするフィルタをニューラルネットで償却する。安全行動がない場合も害を小さくする行動へ寄せるという。
