HeadlinesBriefing HeadlinesBriefing.com

UniEvo-VL 自己蒸留がマルチモーダルを向上

Hacker News •
×

現代のマルチモーダルモデルは、生成と理解を統合したシステムとして機能し、自己生成されたフィードバックから学習することができます。私たちは、テスト時間のコンピューティング中に自己批判を特権情報として活用する自己進化フレームワークであるUniEvo-VLを提案します。単独の、しばしば大きい教師モデルに依存するのではなく、単一のマルチモーダルモデルが異なるコンテキストで教師と学生として機能します。学生は純粋な質問のみを確認し、教師は特権批判に基づいて条件付けられます。トレーニングは、学生のサンプリングトレジャリーにおける去ノイズ拡散分布の間の状態ごとの発散を最小化することを目指します。実験は、自己批判の感度を維持しながら画像生成能力を向上させることを示しています。オープンソースのQwen-image-2512に基づいて、Gen Evalで0.747から0.808へ、Gen Eval2 Soft-TIFAで32.97から35.53へのパフォーマンス向上を観察しました。より強力な外部クリティック、例えばGPT5.6-Lunaを使用した試みは、強力な審査能力を持つマルチモーダルモデルがより高い自己進化の天井を予測できることを示しています。テキストレンダリングの結果が混在していることは、自己改善が異なるタスク間で均一でない可能性があることを示唆しています。この研究は、外部の監視や指導なしでマルチモーダルモデルを使用する際のユーザーエクスペリエンスを向上させることを目的としており、現在熱烈に注目されている再帰的自己改善研究の方向性を明らかにしています。

出典: Hacker News · 要約:HeadlinesBriefing