敵対的
評価や学習で、わざと間違えやすい入力や条件を作って弱点をあぶり出すこと。簡単な抜け道や表面的な手がかりに頼れないようにする狙いがある。
たとえば: テストで、うっかりミスを誘うひっかけ問題を入れて理解度を確かめるようなもの。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 討論(Debate)を「学習問題」として捉え直す:オンライン学習としての定式化と判定誤りの影響
本稿は、AI同士の討論を人間が裁くDebateをゲーム解析だけでなく訓練に内在する学習問題として捉え、オンライン学習として定式化する第一歩を示す。判定者へのアクセスがある場合に最良策が敵対的Debateと異なる例、協調版プロトコルの学習可能性、判定誤りが学習へ与える影響を論じる。
- AIの判断を必要最小限だけ監査する「選択的監査」:未監査の誤り率を閾値以下に抑える枠組み
AIの提案と信頼度スコアをオンライン監視し、専門家監査の頻度を抑えつつ未監査のAI誤り割合を閾値以下に保つ問題を定式化。仮定なしで誤り制御を保証するアルゴリズム族と、敵対的/i.i.d.双方で最良監査率に漸近する手法を述べる。
