安全境界
ここを越えると危険・禁止に当たる、という線引きや条件のこと。許される行動と許されない行動を分ける基準になる。
たとえば: 立入禁止ロープが、安全な場所と入ってはいけない場所を分けるのに似ている。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- ツール応答の「重要情報の抜け」による不安全行動を測る:EpiSEM-Benchの提案
ツール使用型LLMエージェントが安全判断に必要な事実を欠いたとき、禁止行為を実行しうる問題に対し、実行可能ベンチマークEpiSEM-Benchを提案。300の対応タスクペアと監査ツールで、不安全実行・安全境界・証拠回復を評価する。
