← トップへ戻る

プレプリント ·研究論文 ·速報 ·AI要約未精査 ·AIによる読み解き

PRISMがマルチモーダルRLのパフォーマンス向上に与える影響とは？

PRISMは、SFTとRL間の分布調整を改善することでマルチモーダルモデルの強化学習パフォーマンスを向上させる

元記事タイトル: SFTとRL間の分布調整によるマルチモーダルRLの改善

arXiv cs.CL 2026年06月30日

査読未完了の可能性があります。完成した査読済み論文としてではなく、研究コミュニティ向けの早期共有として読んでください。

RESEARCH 研究論文 / Preprint

Field Note 読む前に確認

3行まとめ

PRISMはSFTとRLVR間に分布調整ステージを追加
独自の対策シグナルを提供するMixture-of-Experts (MoE) ディスクリミネーターを使用
視覚と論理的思考を組み合わせた複雑なタスクにおけるパフォーマンス向上に貢献

こんな人に関係ある話

機械学習研究者マルチモーダルモデル開発者強化学習の専門家

信頼度メモ

プレプリント論文（査読前の可能性あり）

記事の読み解き Reading

元記事を材料に、要点、編集視点、良い点と懸念点を読みやすい順に整理しています。

この研究では、大規模なマルチモーダルモデル（LMM）に対する従来のトレーニング手法である監督学習微調整（SFT）と強化学習（RL）の間に分布調整ステージを導入することで、モデルのパフォーマンスを向上させるPRISMという三段階のパイプラインが提案されています。この方法は、独自の対策シグナルを提供するMixture-of-Experts (MoE) ディスクリミネーターを使用して、SFTとRL間での分布のずれを最小限に抑えます。

編集部コメント

PRISMは、従来のSFTとRL間での分布調整の課題を解決する新しいアプローチを提供します。これはマルチモーダルモデルの強化学習における重要な進歩であり、特に視覚情報と論理的思考を組み合わせる必要があるタスクにおいて大きな影響を与える可能性があります。

評価ポイント Assessment

良い点

PRISMがSFTとRL間で分布調整を行うことでモデルのパフォーマンス向上を達成
独自の対策シグナルを提供するMixture-of-Experts (MoE) ディスクリミネーターを使用
1.26Mの公開デモンストレーションデータと追加の113Kデモンストレーションデータを使用

懸念点

高精度な監督が必要となるため、分布調整にはより高い品質のデモンストレーションデータが求められる

業界・社会への影響 Impact

この研究は、マルチモーダルモデルにおける強化学習のパフォーマンス向上に貢献し、特に視覚と論理的思考を組み合わせた複雑なタスクにおいて大きな影響を与える可能性があります。

深堀り Deep Dive

前提知識

近年、大規模なマルチモーダルモデル（LMM）の研究が進展し、視覚や言語などの複数モーダルを統合して処理する技術が注目されている。従来、SFT（監督学習微調整）とRL（強化学習）を組み合わせたトレーニング手法が採用されてきたが、SFTではモデルの初期能力が損なわれたり、RLでは報酬の信頼性が低下するなどの課題が存在していた。このため、マルチモーダルなタスクにおいては、SFTとRLの間での分布のずれが発生し、性能に悪影響を及ぼすケースが多かった。

何が新しいのか

本研究では、SFTとRLの間に「分布調整ステージ」を新たに導入し、モデルの性能を向上させるPRISMという三段階のパイプラインを提案している。このステージでは、Mixture-of-Experts（MoE）ディスクリミネーターを用いて、SFTとRLの間に生じる分布のずれを補正する。従来手法では、教師モデルのlogitに依存していたが、本方法ではそれらを必要とせず、より柔軟な調整が可能になっている。また、高品質なデモンストレーションデータの活用により、複雑なタスクでも高い精度を達成している。

今後見るべき論点

分布調整ステージの効果が他のタスクやモデル規模にどのように適用されるか
MoEディスクリミネーターの設計や構造が今後の研究でどのように進化するか
高品質なデモンストレーションデータの収集方法が他の研究にどのように影響を与えるか

用語解説

SFT 監督学習微調整の略。既存のデモンストレーションデータを用いてモデルを微調整する手法。

RL 強化学習の略。報酬信号をもとにモデルの行動を最適化する手法。

MoEディスクリミネーター Mixture-of-Experts（専門家混合）を用いた分類器。異なる専門分野（例：視覚・推論）に特化した専門家を組み合わせて、分布調整を行う。

PRISM SFTとRLの間に分布調整ステージを導入した三段階のトレーニングパイプライン。

分布調整 SFTとRLの間で生じるデータ分布のずれを補正するプロセス。

参照元 Sources

元記事と、深堀りで参照した情報源です。コミュニティ投稿やプレプリントでは、ここから根拠を確認できます。

SFTとRL間の分布調整によるマルチモーダルRLの改善

arXiv cs.CL

https://arxiv.org/abs/2604.28123

この記事の見取り図

読む前に確認
記事の読み解き
深堀り
参照元
AI要約について
関連記事

キーワード

PRISM SFT RLVR Mixture-of-Experts (MoE) Black-box On-Policy Distillation

AI要約について

本記事の要約・分類・読み解きにはAIを使用しています。内容確認に努めていますが、誤訳・解釈違い・元記事更新の反映漏れを含む可能性があります。重要な判断を行う場合は、必ず元記事もご確認ください。

速報について — 速報は追加調査や本文抽出の結果で内容が更新される場合があります。初期要約には誤りや不足が含まれる可能性があります。

記事データ

Source	プレプリント
Category	研究論文
Status	速報
出典	arXiv cs.CL
公開日	2026-06-30

元記事の説明文

arXiv:2604.28123v3 Announce Type: replace-cross Abstract: The standard post-training recipe for large multimodal models (LMMs) applies supervised fine-tuning (SFT) on curated demonstrations followed by reinforcement learning with verifiable rewards (RLVR). However, SFT introduces distributional drift that neither preserves the model's original capabilities nor faithfully matches the supervision distribution. This problem is further amplified in multimodal reasoning, where perception errors and reasoning failures follow distinct drift patterns that compound during subsequent RL. We introduce PRISM, a three-stage pipeline that mitigates this drift by inserting an explicit distribution-alignment stage between SFT and RLVR. Building on the principle of on-policy distillation (OPD), PRISM casts alignment as a black-box, response-level adversarial game between the policy and a Mixture-of-Experts (MoE) discriminator with dedicated perception and reasoning experts, providing disentangled corrective signals that steer the policy toward the supervision distribution without requiring access to teacher logits. While 1.26M public demonstrations suffice for broad SFT initialization, distribution alignment demands higher-fidelity supervision; we therefore curate 113K additional demonstrations from Gemini 3 Flash, featuring dense visual grounding and step-by-step reasoning on the hardest unsolved problems. Experiments on Qwen3-VL show that PRISM consistently improves downstream RLVR performance across multiple RL algorithms (GRPO, DAPO, GSPO) and diverse multimodal benchmarks, improving average accuracy by +4.4 and +6.0 points over the SFT-to-RLVR baseline on 4B and 8B, respectively. Our code, data, and model checkpoints are publicly available at https://github.com/XIAO4579/PRISM.