線形プローブ
学習済みモデルの内部表現を入力にして、直線的な境界で分類するための小さな判定器。モデル本体は変えずに、情報が内部にあるかを手早く確かめるのに使う。
たとえば: 温度計本体はそのままで、目盛りの読み取り部分だけを付け替えて測る感じ。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- LLMの「嘘」を方向ベクトルで見分ける試み:persona directionとknowledge direction
役割演技から得るラベル不要の「persona direction」と、知識の有無を対比する「knowledge direction」でLLMの欺瞞検出を検証。Liars' Benchでは3/4モデルで従来プローブより良い一方、知識に関する嘘では限界も示された。
