日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

操作/データセット/世界モデルarXiv:2607.18709

RoboInter1.5: 身体性世界モデリングとロボット操作のための包括的中間表現スイート

RoboInter1.5: A Holistic Intermediate Representation Suite for Embodied World Modeling and Robotic Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

ロボット操作と身体性世界モデリングのための、多様な中間表現(サブタスク、プリミティブスキル、物体・グリッパー接地、セグメンテーション、アフォーダンス、把持姿勢、接触点、動作軌跡など)を備えた大規模データセット、ベンチマーク、モデル群を構築した。

詳しい要約

1. どんなもの?

- ロボット操作と embodied world modeling のための中間表現スイート - RoboInter1.0 を拡張した RoboInter1.5 - データ、ベンチマーク、モデルを統合 - 230k 以上の操作エピソード、571 シーン - 10 種類以上の中間表現をフレーム単位で密に注釈 - サブタスク、プリミティブスキル、物体・グリッパ接地、セグメンテーション、アフォーダンス、把持姿勢、接触点、動作軌跡など - RoboInter-VQA、RoboInter-VLM、RoboInter-VLA、RoboInter-World を包含

2. 先行研究と比べてどこがすごい?

- 既存のロボットデータセットは高コスト、embodiment 固有、細粒度注釈が不十分 - 一般化可能な推論、実行、長期的環境ダイナミクスシミュレーションに必要な構造が不足 - RoboInter1.0 を基に拡張し、より包括的なスイートを提供 - 中間表現を単なる解釈可能な信号ではなく、双方向インターフェースとして概念化 - 低レベル行動空間の正則化と、オープンワールド物理シミュレータの潜在ロールアウトの制約を両立

3. 技術・手法の肝は?

- 密な操作指向の中間表現を中心とした統合リソース - RoboInter-Data: 230k 以上の操作エピソード、571 シーン、フレーム単位の注釈 - 注釈にはサブタスク、プリミティブスキル、物体・グリッパ接地、セグメンテーション、アフォーダンス、把持姿勢、接触点、動作軌跡など 10 種類以上 - RoboInter-VQA: 空間・時間的 embodied VQA タスクを導入 - RoboInter-VLM: 中間表現推論能力をベンチマーク・改善 - RoboInter-VLA: 暗黙的、明示的、モジュール式 plan-then-execute パラダイムで行動実行への利益を検討 - RoboInter-World: 中間表現を構造化条件信号として活用し、将来の世界状態を制御可能に予測

4. どうやって有効だと検証した?

- 広範な評価を実施 - RoboInter1.5 が中間表現のための統合時空間スキャフォールディングを提供することを実証 - 詳細な評価指標やベースラインは要旨からは不明

5. 議論はある?

- 中間表現を双方向インターフェースとして概念化 - 低レベル行動空間の正則化と、オープンワールド物理シミュレータの潜在ロールアウトの制約に寄与 - 具体的な限界や議論は要旨からは不明

6. 次に読むべき論文は?

- RoboInter1.0 - RoboInter-Data - RoboInter-VQA - RoboInter-VLM - RoboInter-VLA - RoboInter-World - 同分野の定番: embodied VQA、robotic manipulation、world modeling に関する研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ziqin Wang, Hao Li, Weijun Wang, Junhao Cai, Jia Zeng, Yilun Chen, Jiangmiao Pang, Si Liu

分類: cs.RO

原文アブストラクト

Existing robot datasets remain expensive to curate, embodiment-specific, and insufficiently annotated with the fine-grained structure required for generalizable reasoning, execution, or long-horizon environment dynamics simulation. Building on our prior work, RoboInter1.0, we present RoboInter1.5, an extended and holistic suite of intermediate representations for both robotic manipulation and embodied world modeling. RoboInter1.5 provides a unified resource of data, benchmarks, and models centered on dense manipulation-oriented intermediate representations. Specifically, RoboInter-Data contains over 230k manipulation episodes across 571 scenes with dense per-frame annotations covering more than ten types of intermediate representations, including subtasks, primitive skills, object and gripper grounding, segmentation, affordance, grasp poses, contact points, motion traces, etc. Built upon these annotations, RoboInter-VQA introduces spatial and temporal embodied VQA tasks to benchmark and improve the intermediate-representation reasoning capabilities of our RoboInter-VLM. RoboInter-VLA further studies how such representations benefit action execution through implicit, explicit, and modular plan-then-execute paradigms. To better model the physical world, we further introduce RoboInter-World, which leverages intermediate representations as structured conditioning signals for controllable prediction of future world states. Extensive evaluations demonstrate that RoboInter1.5 provides a unified spatiotemporal scaffolding for intermediate representations. Rather than treating intermediate representations merely as interpretable signals, RoboInter1.5 conceptualizes them as a bidirectional interface that both regularizes low-level action spaces and constrains the latent rollouts of open-world physical simulators.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI