状態-行動価値関数
ある状況(状態)である行動をしたとき、将来どれだけ良い(または悪い)結果になりそうかを数で表すもの。「安全価値」は危険の大きさを点数化するイメージ。
たとえば: この道を選ぶと事故に近づきやすいかを、危険度スコアで見積もるようなもの。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 安全フィルタを学習で償却する「FAITH」:高次元ロボット向けSafe RLの提案
FAITHは、安全と性能の競合を避けるため行動実行時に安全フィルタをかける枠組みを提案する。解析的モデル不要で安全価値を近似し、介入を最小にするフィルタをニューラルネットで償却する。安全行動がない場合も害を小さくする行動へ寄せるという。
