日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2506.04308

RoboRefer: ロボティクス向け視覚言語モデルにおける推論を伴う空間指示

RoboRefer: Towards Spatial Referring with Reasoning in Vision-Language Models for Robotics

シェア:XThreadsFacebookLINEはてブBluesky

3D空間理解と多段階推論を可能にする視覚言語モデルRoboReferを提案し、大規模データセットRefSpatialとベンチマークRefSpatial-Benchを導入して、空間指示タスクで最先端性能を達成した。

詳しい要約

1. どんなもの?

- 本論文は RoboRefer を提案する。 - 3D 物理世界での指示位置を理解・推論する embodied robots 向け spatial referring 能力を扱う。 - 3D-aware VLM であり、depth encoder を統合して精密な spatial understanding を実現する。 - 構成要素は以下の通り。 - SFT による spatial understanding の獲得。 - RFT と metric-sensitive process reward functions による multi-step spatial reasoning の汎化。 - 大規模データセット RefSpatial(20M QA pairs、31 spatial relations、最大5ステップの推論)。 - 評価用ベンチマーク RefSpatial-Bench。 - 実機適用も示す。 - UR5 や G1 humanoid など多様なロボットに統合可能。 - 雑然とした実世界シーンで long-horizon, dynami…

2. 先行研究と比べてどこがすごい?

- 従来の VLM ベース手法の限界を指摘する。 - 複雑な 3D シーンの正確な理解が不十分。 - 指示が示す位置についての動的な推論が不十分。 - データセット面の優位性。 - RefSpatial は 20M QA pairs で prior の 2 倍。 - 31 spatial relations をカバーし、prior の 15 を上回る。 - 最大5ステップの複雑な推論過程を支援する。 - ベンチマーク面の貢献。 - RefSpatial-Bench は multi-step reasoning を伴う spatial referring 評価の空白を埋める。 - 性能面の優位性。 - SFT 版は spatial understanding で state-of-the-art、平均成功率 89.6%。 - RFT 版は RefSpatial-Bench の平均精度で全ベースラインを大きく上回り、Gemini-2.5-Pro を 17.4% 上回る。

3. 技術・手法の肝は?

- 3D 認識のためのアーキテクチャ。 - 分離された専用の depth encoder を VLM に統合する。 - SFT により精密な spatial understanding を獲得する。 - 推論能力の強化。 - RFT により汎化された multi-step spatial reasoning を実現する。 - spatial referring タスク向けに調整した metric-sensitive process reward functions を用いる。 - 学習データ。 - RefSpatial を SFT と RFT の両方に用いる。 - 20M QA pairs、31 spatial relations、最大5ステップの推論過程を含む。 - 評価基盤。 - RefSpatial-Bench を導入し、multi-step reasoning を要する spatial referring を評価する。

4. どうやって有効だと検証した?

- 学習済みモデルの定量評価。 - SFT 版 RoboRefer は spatial understanding で state-of-the-art を達成し、平均成功率 89.6%。 - RFT 版は RefSpatial-Bench の平均精度で全ベースラインを大きく上回る。 - 特に Gemini-2.5-Pro を 17.4% 上回る。 - 実機での検証。 - 各種 control policies と統合して実行する。 - UR5 や G1 humanoid など多様なロボットで、雑然とした実世界シーンの long-horizon, dynamic tasks を実行する。 - ベンチマーク設計。 - RefSpatial-Bench により multi-step reasoning を伴う spatial referring を評価する。

5. 議論はある?

- 要旨からは不明。 - 限界や失敗事例、reward 設計の感度、計算コスト、実機展開時の安全性などは明示されていない。 - 言及されている範囲の含意。 - 複雑な 3D シーン理解と指示位置の動的推論が従来 VLM では不十分であるという問題意識を提示する。 - データセットの規模・関係数・推論ステップ数の拡張が性能に寄与することを示唆する。 - 実機の多様なロボットへの統合可能性を主張する。

6. 次に読むべき論文は?

- 要旨で直接参照・比較されている研究。 - Gemini-2.5-Pro(比較対象の VLM)。 - prior の spatial referring データセット(15 spatial relations、RefSpatial の比較対象)。 - 関連手法として読む候補。 - SFT と RFT を用いる VLM の spatial reasoning 研究。 - depth encoder を統合する 3D-aware VLM 研究。 - metric-sensitive process reward を用いる reinforcement fine-tuning 研究。 - embodied robots 向け spatial referring ベンチマーク研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Enshen Zhou, Jingkun An, Cheng Chi, Yi Han, Shanyu Rong, Chi Zhang, Pengwei Wang, Zhongyuan Wang, Tiejun Huang, Lu Sheng, Shanghang Zhang

分類: cs.RO, cs.AI, cs.CV

原文アブストラクト

Spatial referring is a fundamental capability of embodied robots to interact with the 3D physical world. However, even with the powerful pretrained vision language models (VLMs), recent approaches are still not qualified to accurately understand the complex 3D scenes and dynamically reason about the instruction-indicated locations for interaction. To this end, we propose RoboRefer, a 3D-aware VLM that can first achieve precise spatial understanding by integrating a disentangled but dedicated depth encoder via supervised fine-tuning (SFT). Moreover, RoboRefer advances generalized multi-step spatial reasoning via reinforcement fine-tuning (RFT), with metric-sensitive process reward functions tailored for spatial referring tasks. To support SFT and RFT training, we introduce RefSpatial, a large-scale dataset of 20M QA pairs (2x prior), covering 31 spatial relations (vs. 15 prior) and supporting complex reasoning processes (up to 5 steps). In addition, we introduce RefSpatial-Bench, a challenging benchmark filling the gap in evaluating spatial referring with multi-step reasoning. Experiments show that SFT-trained RoboRefer achieves state-of-the-art spatial understanding, with an average success rate of 89.6%. RFT-trained RoboRefer further outperforms all other baselines by a large margin, even surpassing Gemini-2.5-Pro by 17.4% in average accuracy on RefSpatial-Bench. Notably, RoboRefer can be integrated with various control policies to execute long-horizon, dynamic tasks across diverse robots (e,g., UR5, G1 humanoid) in cluttered real-world scenes.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI