日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2606.23157

意味と運動学を橋渡しする:ゼロショットロボット操作のためのモジュール型フレームワーク

Bridging Semantics and Kinematics: A Modular Framework for Zero-Shot Robotic Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

視覚言語モデルと運動計画をモジュール化して組み合わせ、訓練なしで言語指示によるロボット操作を実現するフレームワークを提案した。

詳しい要約

1. どんなもの?

- 半構造化環境でのゼロショット・言語誘導ロボットマニピュレーションのためのモジュール型訓練不要フレームワーク。 - 視覚知覚、意味解釈、タスク実行の3段階で構成。 - 視覚言語モデル(VLM)の空間的曖昧さと意味的幻覚を克服するため、FastSAMとSet-of-Mark (SoM)プロンプティングで接地された英数字視覚アンカーを生成。 - 同じ基盤モデルをLLMとしてセマンティックルーターとして使用し、人間の指示を検証可能な構成に変換。 - タスクオーケストレーターがMoveIt Task Constructor (MTC)で衝突のない軌道を生成。

2. 先行研究と比べてどこがすごい?

- 従来のVLMベース手法は空間的曖昧さと意味的幻覚に悩まされるが、本手法はFastSAMとSoMプロンプティングで接地された視覚アンカーを生成し、LLMをセマンティックルーターとして純粋に使用することでこれらを克服。 - 訓練不要でゼロショット操作を実現し、手動座標プログラミングやドメイン固有の訓練を必要としない点が先行研究と比べて優れている。 - 具体的な比較対象は要旨からは不明。

3. 技術・手法の肝は?

- 視覚知覚モジュール: FastSAMとSet-of-Mark (SoM)プロンプティングを用いて動的に接地された英数字視覚アンカーを生成。 - 意味解釈モジュール: 同じ基盤モデルをLLMとして使用し、セマンティックルーターとして機能。制約のない人間の指示を検証可能で再構成可能な構成に変換。 - タスク実行モジュール: タスクオーケストレーターが構成を動的に解析し、MoveIt Task Constructor (MTC)で衝突のない軌道を生成。

4. どうやって有効だと検証した?

- 2つのゼロショット実験設定で評価: 制約のないオープンワールド逐次操作と密な関係空間推論。 - 両シナリオでエンドツーエンドのタスク成功率62%を達成。 - ドメイン固有の訓練や手動座標プログラミングなしで複雑な物理動作を確実に実行できることを実証。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。関連手法としてVision-Language Models (VLMs)、FastSAM、Set-of-Mark (SoM) prompting、MoveIt Task Constructor (MTC)が挙げられる。同分野の定番として、RT-1、RT-2、PaLM-E、SayCanなどが考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ali Alabbas, Dipshikha Das, Camillo Murgia, Sainul Ansary, Alaa Elkamash, Philip Long

分類: cs.RO

原文アブストラクト

This paper presents a modular training-free framework for zero-shot, language-guided robotic manipulation in semi-structured environments. The architecture bridges the gap between high-level reasoning and low-level kinematics by decomposing the vision-action pipeline into three stages: visual perception, semantic interpretation, and task execution. To overcome the spatial ambiguity and semantic hallucinations inherent in standard Vision-Language Models (VLMs), the perception module employs FastSAM and Set-of-Mark (SoM) prompting to dynamically generate grounded, alphanumeric visual anchors. The same foundation model then operates purely as a Large Language Model (LLM) to act as a semantic router, translating unconstrained human directives into verifiable, reconfigurable configurations. Finally, these configurations are dynamically parsed by a Task Orchestrator into MoveIt Task Constructor (MTC) to generate collision-free trajectories. The framework is evaluated across two zero-shot experimental setups: unconstrained open-world sequential manipulation and dense relational spatial reasoning, achieving a 62% end-to-end task success rate across both scenarios, demonstrating its capacity to reliably execute complex physical actions without domain-specific training or manual coordinate programming.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI