役割演技
モデルに「正直な役」「だます役」などの役割を与え、その役になりきって応答させること。狙ったふるまいを引き出して観察しやすくするために行う。
たとえば: 演劇で同じ台本でも、善人役と悪役で演じ分けるのに似ている。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- LLMの「嘘」を方向ベクトルで見分ける試み:persona directionとknowledge direction
役割演技から得るラベル不要の「persona direction」と、知識の有無を対比する「knowledge direction」でLLMの欺瞞検出を検証。Liars' Benchでは3/4モデルで従来プローブより良い一方、知識に関する嘘では限界も示された。
