日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ビデオ推論arXiv:2605.01324

知覚的ショートカットを超えて:軽量MLLMの汎化ビデオ推論のための因果的着想に基づくデバイアス最適化

Beyond Perceptual Shortcuts: Causal-Inspired Debiasing Optimization for Generalizable Video Reasoning in Lightweight MLLMs

シェア:XThreadsFacebookLINEはてブBluesky

軽量マルチモーダル言語モデルにおける強化学習がデータバイアスによる知覚的ショートカットに依存する問題を因果分析で明らかにし、バイアスモデルと反発的目標を用いた2段階デバイアス手法VideoThinkerを提案した。

詳しい要約

1. どんなもの?

- 軽量MLLMsのビデオ推論を強化するVideoThinkerを提案。 - RLベースのファインチューニングが知覚的ショートカットを優先させる問題を因果分析で解明。 - 二段階のデバイアス処理で頑健な推論を実現。 - VideoThinker-R1は効率的なビデオ推論でSOTAを達成。

2. 先行研究と比べてどこがすごい?

- 従来のRLファインチューニングは軽量モデルで知覚的バイアスを助長。 - VideoThinkerは因果分析に基づきバイアスを除去。 - 同規模比較でVideoRFT-3Bを上回り、平均3.2%向上、VideoMMEで7%リード。 - クロススケール比較でVideo-UTR-7Bを凌駕し、MVBenchで2.1%、TempCompassで3.8%向上。

3. 技術・手法の肝は?

- 二段階デバイアス:Bias Aware Trainingでバイアスモデルを構築。 - Causal Debiasing Policy Optimization (CDPO)で主モデルをファインチューニング。 - 反発目的関数でバイアスモデルの誤った論理から遠ざけ、正しい一般化可能な解に引き寄せる。

4. どうやって有効だと検証した?

- 広く使用されるベンチマークで評価。 - 同規模比較でVideoRFT-3Bを上回る。 - クロススケール比較でVideo-UTR-7Bを上回る。 - 具体的な数値:平均3.2%向上、VideoMMEで7%リード、MVBenchで2.1%、TempCompassで3.8%向上。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- VideoRFT-3B - Video-UTR-7B - 関連手法:RLベースのファインチューニング、因果分析、デバイアス最適化

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jingze Wu, Quan Zhang, Hongfei Suo, Zeqiang Cai, Hongbo Chen

分類: cs.CV

原文アブストラクト

Although reinforcement learning (RL) has significantly advanced reasoning capabilities in large multimodal language models (MLLMs), its efficacy remains limited for lightweight models essential for edge deployments. To address this issue, we leverage causal analysis and experiment to reveal the underlying phenomenon of perceptual bias, demonstrating that RL-based fine-tuning compels lightweight models to preferentially adopt perceptual shortcuts induced by data biases, rather than developing genuine reasoning abilities. Motivated by this insight, we propose VideoThinker, a causal-inspired framework that cultivates robust reasoning in lightweight models through a two-stage debiasing process. First, the Bias Aware Training stage forges a dedicated "bias model" to embody these shortcut behaviors. Then, the Causal Debiasing Policy Optimization (CDPO) algorithm fine-tunes the primary model, employing an innovative repulsive objective to actively push it away from the bias model's flawed logic while simultaneously pulling it toward correct, generalizable solutions. Our model, VideoThinker-R1, establishes a new state-of-the-art in video reasoning efficiency. For same-scale comparison, requiring no Supervised Fine-Tuning (SFT) and using only 1 of the training data for RL, it surpasses VideoRFT-3B with a 3.2% average gain on widely-used benchmarks and a 7% lead on VideoMME. For cross-scale comparison, it outperforms the larger Video-UTR-7B model on multiple benchmarks, including a 2.1% gain on MVBench and a 3.8% gain on TempCompass. Code is available at https://github.com/falonss703/VideoThinker.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI