日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

シーン生成arXiv:2509.22281

MesaTask: 3D空間推論によるタスク駆動型卓上シーン生成

MesaTask: Towards Task-Driven Tabletop Scene Generation via 3D Spatial Reasoning

シェア:XThreadsFacebookLINEはてブBluesky

タスク指示から物理的に妥当な卓上シーンを生成するため、空間推論チェーンとDPOで強化したLLMフレームワークMesaTaskを提案し、大規模データセットMesaTask-10Kを構築した。

詳しい要約

1. どんなもの?

- ロボットが指示を解釈し操作タスクを実行するための、タスクに関連した tabletop scene を生成する新タスク「task-oriented tabletop scene generation」を定式化した研究。 - 高レベルなタスク指示と tabletop scene の間の大きなギャップが課題。 - 約10,700の合成 tabletop scene からなる大規模データセット MesaTask-10K を導入。手作業で作られた layout により現実的な配置と複雑な物体間関係を確保。 - タスクと scene を橋渡しする Spatial Reasoning Chain と、LLM ベースのフレームワーク MesaTask を提案。

2. 先行研究と比べてどこがすごい?

- 従来の scene 作成は時間のかかる手動 layout 設計か、純粋にランダムな layout に依存しており、妥当性やタスクとの整合性が限定的だった。 - 本研究はタスク指示から直接 tabletop scene を生成する枠組みを提案し、手動設計でもランダムでもないアプローチを実現。 - MesaTask-10K は手作業で layout を作成し、現実的な配置と複雑な物体間関係を確保している点が従来と異なる。 - 実験で baselines より優れた性能を達成したと報告。

3. 技術・手法の肝は?

- Spatial Reasoning Chain により生成過程を分解: object inference、spatial interrelation reasoning、scene graph construction を経て最終的な 3D layout を構築。 - MesaTask は LLM ベースのフレームワークで、この reasoning chain を利用。 - さらに DPO アルゴリズムで強化し、物理的に妥当でタスク記述に整合する tabletop scene を生成。 - 高レベル指示と scene のギャップを reasoning chain で橋渡しする点が肝。

4. どうやって有効だと検証した?

- 網羅的な実験を実施し、タスクに適合し現実的な layout を持つ tabletop scene の生成において、MesaTask が baselines より優れた性能を示した。 - 具体的な評価指標や実験設定の詳細は要旨からは不明。

5. 議論はある?

- 要旨からは不明。 - ただし高レベルタスク指示と tabletop scene の間の大きなギャップが本タスクの重要な課題として言及されている。 - 物理的妥当性とタスク整合性の両立が議論の焦点と考えられるが、詳細は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている baselines の具体的名称は要旨からは不明。 - 関連手法として LLM ベースの生成、DPO、scene graph construction、3D layout 生成に関する研究が次に読むべき候補。 - 同分野の定番として tabletop scene generation、task-oriented scene synthesis、LLM-based planning 関連の論文が挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jinkun Hao, Naifu Liang, Zhen Luo, Xudong Xu, Weipeng Zhong, Ran Yi, Yichen Jin, Zhaoyang Lyu, Feng Zheng, Lizhuang Ma, Jiangmiao Pang

分類: cs.CV, cs.RO

原文アブストラクト

The ability of robots to interpret human instructions and execute manipulation tasks necessitates the availability of task-relevant tabletop scenes for training. However, traditional methods for creating these scenes rely on time-consuming manual layout design or purely randomized layouts, which are limited in terms of plausibility or alignment with the tasks. In this paper, we formulate a novel task, namely task-oriented tabletop scene generation, which poses significant challenges due to the substantial gap between high-level task instructions and the tabletop scenes. To support research on such a challenging task, we introduce MesaTask-10K, a large-scale dataset comprising approximately 10,700 synthetic tabletop scenes with manually crafted layouts that ensure realistic layouts and intricate inter-object relations. To bridge the gap between tasks and scenes, we propose a Spatial Reasoning Chain that decomposes the generation process into object inference, spatial interrelation reasoning, and scene graph construction for the final 3D layout. We present MesaTask, an LLM-based framework that utilizes this reasoning chain and is further enhanced with DPO algorithms to generate physically plausible tabletop scenes that align well with given task descriptions. Exhaustive experiments demonstrate the superior performance of MesaTask compared to baselines in generating task-conforming tabletop scenes with realistic layouts. Project page is at https://mesatask.github.io/

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI