検証エージェント
出てきた判断が正しそうか、危なそうかを点検する役割のAI(またはプログラム)。必要に応じて、人に回すかどうかの判断材料を出す。
たとえば: 提出前に誤字やミスを見つける校正係。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- AIの判断を必要最小限だけ監査する「選択的監査」:未監査の誤り率を閾値以下に抑える枠組み
AIの提案と信頼度スコアをオンライン監視し、専門家監査の頻度を抑えつつ未監査のAI誤り割合を閾値以下に保つ問題を定式化。仮定なしで誤り制御を保証するアルゴリズム族と、敵対的/i.i.d.双方で最良監査率に漸近する手法を述べる。
