DeepThinkVLA：視覚言語行動モデルの推論能力を高める

- Vision-Language-Action (VLA) モデルにおける Chain-of-Thought (CoT) 推論の有効性を診断し、その知見に基づいて構築された VLA モデル。 - CoT が VLA で有効となるための 2 つの必要条件 (Decoding Alignment と Causal Alignment) を特定。 - 条件を満たす hybrid-attention decoder と two-stage SFT-then-RL pipeline を備える。 - LIBERO、LIBERO-Plus、RoboTwin 2.0、実機で評価。

- 既存の CoT-VLA は限定的で一貫しない改善しか報告されておらず、CoT がロボット行動に効く条件の厳密な診断は先行研究に無い。 - 本研究は単一の autoregressive decoder で CoT と action を強制する手法が有害 (4.2 pp 低下) であることを示す。 - 結果として LIBERO 97.0%、LIBERO-Plus 79.0% (π0-FAST の 61.6% に対し)、RoboTwin 2.0 59.3% を達成し、最強 baseline を 21.7 ポイント上回る。

- Decoding Alignment: 言語には causal attention、並列 action decoding には bidirectional attention を用いる hybrid-attention decoder を採用。 - Causal Alignment: two-stage の SFT-then-RL pipeline により、reasoning:action chain 全体を sparse な task-success reward に整合させる。 - CoT データ構築手法も提案し、実機適用の予備的証拠を示す。

- 系統的な実験により CoT 有効性の 2 条件を診断 (単一 decoder 強制で 4.2 pp 低下、outcome-based optimization 無しでは 32.0 pp 低下し reasoning-free baseline の 31.6 pp 低下とほぼ同等)。 - LIBERO で 97.0%、LIBERO-Plus で 79.0%、RoboTwin 2.0 で 59.3% の success を報告。 - 実ロボット実験で CoT データ構築と hybrid architecture の物理的適用性の予備的証拠を示す。

- CoT が VLA で真に有効となるには Decoding Alignment と Causal Alignment の同時充足が必要であると主張。 - 単一 autoregressive decoder での CoT と action の同時生成は有害であり得ると指摘。 - 実機実験は予備的証拠に留まる。 - 詳細な限界や失敗事例の議論は要旨からは不明。

- π0-FAST (最強 baseline として比較)。 - 既存の CoT-VLA システム (具体的名称は要旨からは不明)。 - reasoning-free baseline。 - LIBERO、LIBERO-Plus、RoboTwin 2.0 の benchmark 関連研究。