安全フィルタ
実行直前の行動をチェックし、危険になりそうならより安全な行動に差し替える仕組み。学習した方策が出す行動を、そのまま実行しないための安全弁になる。
たとえば: 車の自動ブレーキが、運転操作の一部を直前に補正するのに近い。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 安全フィルタを学習で償却する「FAITH」:高次元ロボット向けSafe RLの提案
FAITHは、安全と性能の競合を避けるため行動実行時に安全フィルタをかける枠組みを提案する。解析的モデル不要で安全価値を近似し、介入を最小にするフィルタをニューラルネットで償却する。安全行動がない場合も害を小さくする行動へ寄せるという。
- 安全と性能を同時に扱う「統一的なBellman演算子」を提案する安全強化学習
安全クリティカル領域の強化学習で、性能最大化と安全制約の厳守を両立させるための統一的なBellman演算子を提案。joint value functionとして目的を統合し、二重時間スケールのTD学習の収束も示す。
