拡散型言語モデル
文章を一度に書き上げるのではなく、いったん崩した情報を少しずつ整えていく手順で文を作るタイプの言語モデル。段階的に推敲するように生成が進むのが特徴。
たとえば: 下書きをぐちゃっとしてから、何度も書き直して読みやすい文章に整える作業に近い。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- 拡散型言語モデルの再生成を「いつ・何を」直すか判定する検証器DiVR
拡散型言語モデルのremaskingで起きる修正の難しさを診断し、部分生成が正解に至るかを予測する検証器DiVRを提案。生成器は変えずに再生成のタイミングと候補選択を制御し、推論ベンチマークで精度向上を報告する。
