日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2512.16909

MomaGraph: 視覚言語モデルによる状態認識統合シーングラフと身体性タスクプランニング

MomaGraph: State-Aware Unified Scene Graphs with Vision-Language Model for Embodied Task Planning

シェア:XThreadsFacebookLINEはてブBluesky

家庭内の移動マニピュレータ向けに、空間的・機能的関係と物体状態を統合したシーングラフ表現MomaGraphと、大規模データセット・評価ベンチマーク・強化学習で訓練した7B視覚言語モデルMomaGraph-R1を提案し、ゼロショットタスクプランニングで最先端性能を達成した。

詳しい要約

1. どんなもの?

- 家庭内の mobile manipulator 向けの統一 scene representation「MomaGraph」を提案する研究。 - 物体の位置・機能・操作可能な部位を統合し、spatial-functional relationships と part-level interactive elements を表現。 - 併せて大規模データセット「MomaGraph-Scenes」と評価スイート「MomaGraph-Bench」を構築。 - 7B vision-language model「MomaGraph-R1」を reinforcement learning で学習し、task-oriented scene graph を予測。 - Graph-then-Plan framework による zero-shot task planner として機能。

2. 先行研究と比べてどこがすごい?

- 先行研究は spatial と functional の関係を分離して扱う傾向があったのに対し、両者を統合。 - 従来は scene を静的な snapshot として扱い、object states や temporal updates を欠いていたが、本手法は state-aware な表現を志向。 - 現在のタスク遂行に最も関連する情報を見落としていた点を改善。 - こうした表現のための適切なデータと厳密な評価が欠けていたため、MomaGraph-Scenes と MomaGraph-Bench を新たに提供。

3. 技術・手法の肝は?

- 統一 scene representation「MomaGraph」: spatial-functional relationships と part-level interactive elements を統合。 - MomaGraph-Scenes: 家庭環境における task-driven scene graphs を詳細にアノテーションした大規模データセット。 - MomaGraph-Bench: 高レベル planning から fine-grained scene understanding まで6つの reasoning capabilities を評価するスイート。 - MomaGraph-R1: MomaGraph-Scenes 上で reinforcement learning により学習した7B vision-language model。 - Graph-then-Plan framework の下で task-oriented scene graph を予測し、zero-shot task planner として動作。

4. どうやって有効だと検証した?

- MomaGraph-Bench 上で広範な実験を実施。 - open-source models の中で state-of-the-art を達成し、accuracy 71.6%(best baseline 比 +11.4%)。 - 公開ベンチマークへの generalization と、実ロボット実験への効果的な transfer を示した。 - 詳細な実験設定・被験体・指標の内訳は要旨からは不明。

5. 議論はある?

- 要旨からは不明。 - 明示されているのは、spatial/functional 分離、静的 snapshot 扱い、タスク関連情報の欠落という先行研究の限界への対処。 - 限界・失敗事例・計算コスト・実ロボットでの詳細な議論は要旨からは不明。

6. 次に読むべき論文は?

- MomaGraph-Scenes および MomaGraph-Bench の原論文・データセット詳細。 - Graph-then-Plan framework の関連研究。 - vision-language model を用いた scene graph 生成・embodied task planning の関連手法(要旨で個別名の参照なし)。 - 比較対象の open-source baseline モデル群の論文。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuanchen Ju, Yongyuan Liang, Yen-Jen Wang, Nandiraju Gireesh, Yuanliang Ju, Seungjae Lee, Qiao Gu, Elvis Hsieh, Furong Huang, Koushil Sreenath

分類: cs.CV, cs.RO

原文アブストラクト

Mobile manipulators in households must both navigate and manipulate. This requires a compact, semantically rich scene representation that captures where objects are, how they function, and which parts are actionable. Scene graphs are a natural choice, yet prior work often separates spatial and functional relations, treats scenes as static snapshots without object states or temporal updates, and overlooks information most relevant for accomplishing the current task. To address these limitations, we introduce MomaGraph, a unified scene representation for embodied agents that integrates spatial-functional relationships and part-level interactive elements. However, advancing such a representation requires both suitable data and rigorous evaluation, which have been largely missing. We thus contribute MomaGraph-Scenes, the first large-scale dataset of richly annotated, task-driven scene graphs in household environments, along with MomaGraph-Bench, a systematic evaluation suite spanning six reasoning capabilities from high-level planning to fine-grained scene understanding. Built upon this foundation, we further develop MomaGraph-R1, a 7B vision-language model trained with reinforcement learning on MomaGraph-Scenes. MomaGraph-R1 predicts task-oriented scene graphs and serves as a zero-shot task planner under a Graph-then-Plan framework. Extensive experiments demonstrate that our model achieves state-of-the-art results among open-source models, reaching 71.6% accuracy on the benchmark (+11.4% over the best baseline), while generalizing across public benchmarks and transferring effectively to real-robot experiments.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI