ファインチューニング
すでに学習済みのAIモデルを、追加のデータで目的に合わせて調整すること。ゼロから作り直すより少ない手間で特定用途に合わせられる。
たとえば: 既製服を買ってから、自分の体に合うように少しだけ仕立て直すようなもの。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- OopsieRecover:少数の是正デモからVLAの失敗回復を学ばせる枠組み
VLAモデルのデプロイ時の失敗に対し、少数の是正デモの「意図」を外転で推論し、条件付きコストとして方策を誘導するOopsieRecoverが提案された。6タスクの実験で、新規状況への一般化を示したと報告している。
- LLMのデータ帰属を「何が悪いのか」切り分ける:制御ベンチマークCATTと評価設計の論点
LLMのデータ帰属評価で失敗要因を切り分けるため、架空知識で学習させた制御ベンチマークCATTを導入。冗長性やディストラクタが性能を悪化させ、損失やトークン集約の選択が結果を大きく左右すると示す。
- モデル重みに暗号化ネットワークを埋め込み、誘発を困難にするバックドア攻撃の提案
能力評価が前提とする「隠れた能力は誘発できる」という仮定が、敵対的条件下では崩れうることを示す研究。暗号化ニューラルネットワークを重みに埋め込み、秘密トリガー時だけ実行する仕組みを構成し、誘発ベース監査の限界を論じる。
