開始トークン
文章や出力の「はじまり」を示すために使われる特別な記号や最初の単位。モデルが生成を始める合図になる。
たとえば: 録画の「REC開始」の合図でカメラが動き出すのに似ている。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 応答冒頭の「キュー」がベースモデルの推論挙動に結びつく可能性
学習データが、応答の最初のトークンとその後の推論挙動を結びつける仕組みを調べた研究。特定の開始トークンを固定すると数学タスクで精度が上がり、RLがその出現を増やす可能性や、データ介入でキュー効果を付与・除去できることを報告する。
