下流分類器
あるモデルが作った特徴(情報のまとめ)を入力にして、最終的に「AかBか」などの判定をするための別の小さな判定モデル。元のモデルとは別に学習させることが多い。
たとえば: 検査装置の結果を見て、合格・不合格の判を押す担当者のような役割。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 対照学習とプロトタイプ推論でjailbreak試行を検知する「JDPI」
大規模言語モデルの安全運用で問題となるjailbreak試行の検知に向け、追加の下流分類器を学習せずに判定するJDPIを提案。バイナリ安全ラベルからプロトタイプを作り距離で予測し、複数ベンチマークや転移設定で性能を比較した。
