オープンウェイトモデル
学習済みモデルの“重み”(中身の数値パラメータ)が公開され、外部の人が入手して動かしたり改変したりできるモデル。API提供だけの形より中身を扱える。
たとえば: 完成品だけ売るのでなく、レシピと分量表まで配って「同じ味を再現・改造していい」とする料理みたいなもの。
AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。
この言葉が出てくる記事
- シミュレーション強化学習で、オープンウェイト推論モデルが実ロボット操作に転移する可能性
論文は、オープンウェイト27B推論モデルをデモなし・シミュレーションのみの強化学習で訓練し、実ロボット操作に転移できると報告する。PEARとRURLを提案し、LIBERO等で成功率の大幅な改善や汎用能力の劣化なしを示したという。
- LLM出力に推測した個人属性を隠す脅威モデル「Synthesis Smuggling」の提案
本稿は、LLMが会話からユーザのセンシティブ情報を推測し、生成物にステガノグラフィ的に埋め込む脅威モデル「Synthesis Smuggling」を提案する。不可視文字や語選択による埋め込みで、共有された出力が秘匿チャネルになり得る点を示す。
