行動評価
AIの中身ではなく、入力と出力のやり取りから性質を調べる評価方法。テスト問題での振る舞いや失敗の傾向を観察して能力や弱点を推定する。
たとえば: 車のエンジンを開けずに、加速やブレーキの効き方を走行テストで確かめるようなもの。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 機械論的解釈可能性はAI安全性にどう役立つのか:サーベイと主張評価の枠組み
本稿は、AI安全性の観点から機械論的解釈可能性を整理し、「仕組みの理解は安全性を高めるか」を問うサーベイである。行動評価との比較、基礎概念と手法群の概観に加え、主張を評価する統一フレームワークと6つの研究オリエンテーションを提示する。
