日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マルチモーダル生成arXiv:2606.13679

InterleaveThinker: エージェント型インターリーブ生成の強化

InterleaveThinker: Reinforcing Agentic Interleaved Generation

シェア:XThreadsFacebookLINEはてブBluesky

既存の画像生成器にテキストと画像の交互生成能力を付与するマルチエージェントパイプラインを提案し、プランナーと批評エージェントを用いて段階的な指示修正を強化学習で強化する。

詳しい要約

1. どんなもの?

- 既存の画像生成器に interleaved generation(text-image sequence)能力を付与する初の multi-agent pipeline「InterleaveThinker」を提案。 - planner agent が画像・テキスト入力系列を整理し、各ステップで生成器への実行指示を出す。 - critic agent が生成器の出力を評価し、計画から逸脱したサンプルを特定して指示を修正・再生成する。 - 単一画像生成・編集に強い既存生成器や最新の open-source Unified Multimodal Models (UMMs) でも苦手な interleaved generation を対象とする。

2. 先行研究と比べてどこがすごい?

- 従来の画像生成器はアーキテクチャ制約により interleaved generation ができず、最新の open-source UMMs でも性能が限定的だった。 - InterleaveThinker は任意の既存画像生成器に interleaved generation 能力を付与できる初の multi-agent pipeline である点が新しい。 - 各種画像生成器で性能を改善し、interleaved generation ベンチマークで Nano Banana や GPT-5 に匹敵する性能を達成。 - さらに base model の reasoning-based benchmarks も大幅に向上(例: 4-step FLUX.2-klein で WISE と RISE が大幅改善)。

3. 技術・手法の肝は?

- planner agent が image-text 入力系列を組織し、各ステップで画像生成器への実行指示を生成。 - critic agent が生成出力を評価し、計画から逸脱したサンプルを特定して指示を refine し再生成。 - 形式 cold-start 用に Interleave-Planner-SFT-80k と Interleave-Critic-SFT-112k を構築。 - Interleave-Critic-RL-13k を GRPO で学習し、生成 trajectory 内の step-wise instruction correction 能力を強化。 - 1 trajectory が 25 回以上の generator calls を含むため全体最適化は非現実的。accuracy reward と step-wise reward を提案し、single-step RL で trajectory 全体を効果的に導く。

4. どうやって有効だと検証した?

- 各種画像生成器に InterleaveThinker を適用し、性能改善を確認。 - interleaved generation ベンチマークで Nano Banana や GPT-5 に匹敵する性能を達成。 - 4-step FLUX.2-klein において WISE と RISE で大幅な向上を観測し、reasoning-based benchmarks も改善。 - 具体的なデータセット名・評価指標の詳細は要旨からは不明。

5. 議論はある?

- 単一 interleaved generation trajectory が 25 回以上の generator calls を含むため、trajectory 全体の最適化は計算量的に非現実的。 - この課題に対し accuracy reward と step-wise reward を提案し、single-step RL で trajectory 全体を導くアプローチを議論。 - その他の限界や議論は要旨からは不明。

6. 次に読むべき論文は?

- Nano Banana - GPT-5 - FLUX.2-klein - WISE - RISE - GRPO - Unified Multimodal Models (UMMs)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Dian Zheng, Harry Lee, Manyuan Zhang, Kaituo Feng, Zoey Guo, Ray Zhang, Hongsheng Li

分類: cs.CV

原文アブストラクト

Recent image generators have demonstrated impressive photorealism and instruction-following capabilities in single-image generation and editing. However, constrained by their architectures, they cannot achieve interleaved generation (text-image sequence), which has crucial applications in visual narratives, guidance, and embodied manipulation. Even the latest open-source Unified Multimodal Models (UMMs) exhibit limited performance in this regard. In this paper, we introduce InterleaveThinker, the first multi-agent pipeline designed to endow any existing image generator with interleaved generation capabilities. Specifically, we employ a planner agent to organize the image-text input sequence, instructing the image generator on the required execution at each step. Subsequently, we introduce a critic agent to evaluate the generator's outputs, identify samples that deviate from the planned instructions, and refine the instructions for regeneration. To implement this pipeline, we construct the Interleave-Planner-SFT-80k and Interleave-Critic-SFT-112k to perform a format cold-start. Then we develop Interleave-Critic-RL-13k to reinforce the step-wise instruction correction capability within a generation trajectory using GRPO. Since a single interleaved generation trajectory may involve over 25 generator calls, optimizing the entire trajectory is computationally impractical. Therefore, we propose accuracy reward and step-wise reward, allowing single-step RL to effectively guide the entire generation trajectory. The results show that InterleaveThinker improves performance across various image generators. On interleaved generation benchmarks, it achieves performance comparable to Nano Banana and GPT-5. Surprisingly, it also significantly enhances the base model on reasoning-based benchmarks; for example, on 4-step FLUX.2-klein, we observe substantial gains on WISE and RISE.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI