中間層
入力から出力へ進む途中にあるモデル内部の層。そこで作られる表現は、意味や意図などの手がかりを含むことがある。
たとえば: 料理の途中段階の下ごしらえのように、完成前でも特徴が現れる工程。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- LLMの「嘘」を方向ベクトルで見分ける試み:persona directionとknowledge direction
役割演技から得るラベル不要の「persona direction」と、知識の有無を対比する「knowledge direction」でLLMの欺瞞検出を検証。Liars' Benchでは3/4モデルで従来プローブより良い一方、知識に関する嘘では限界も示された。
