監査ツール
決められたルールどおりに動いているか、危ない振る舞いがないかを外から点検・記録するための仕組み。本人の自己申告ではなく第三者的に確認する。
たとえば: 工場の検品ラインが、製品に不良がないかチェックするのに近い。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- ツール応答の「重要情報の抜け」による不安全行動を測る:EpiSEM-Benchの提案
ツール使用型LLMエージェントが安全判断に必要な事実を欠いたとき、禁止行為を実行しうる問題に対し、実行可能ベンチマークEpiSEM-Benchを提案。300の対応タスクペアと監査ツールで、不安全実行・安全境界・証拠回復を評価する。
