日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2507.10814

物体検出を活用した目標条件付き強化学習による汎用的なマニピュレーション

Versatile and Generalizable Manipulation via Goal-Conditioned Reinforcement Learning with Grounded Object Detection

シェア:XThreadsFacebookLINEはてブBluesky

事前学習済み物体検出モデルでテキスト指示から対象物を特定し、マスクベースの目標条件付けを行うことで、未知の物体にも対応できる汎用的なリーチ・把持を強化学習で実現した。

詳しい要約

1. どんなもの?

- 汎用的なロボットのreach・graspを目的としたGoal-Conditioned Reinforcement Learning (GCRL)フレームワーク。 - 事前学習済みobject detectorを組み込み、テキストプロンプトから対象物体を特定する。 - 検出結果からmaskを生成し、それをgoal conditioningとして用いる。 - 家庭や作業空間での多様かつ変化するタスクへの展開を狙う。

2. 先行研究と比べてどこがすごい?

- 近年のLLMやobject detectorをRLに組み込む研究の流れに沿う。 - 事前学習モデルをGCRLに統合し、テキスト指定による物体識別を可能にした点が特徴。 - maskベースのgoal conditioningによりobject-agnosticな手がかりを与え、feature sharingとgeneralizationを改善。 - 具体的な先行研究名や定量的比較は要旨からは不明。

3. 技術・手法の肝は?

- 事前学習済みobject detection modelでテキストプロンプトに対応する物体を検出。 - 検出物体のmaskを生成し、goal conditioningとしてエージェントに与える。 - maskは物体非依存のcueとして機能し、特徴共有と汎化を促進。 - これをGoal-Conditioned Reinforcement Learningに統合してreach・graspを学習。

4. どうやって有効だと検証した?

- シミュレーション上のreach-and-graspタスクで評価。 - in-distributionおよびout-of-distribution物体の双方で約90%の成功率を維持。 - maskベースのgoal conditioningにより、より速い収束と高いreturnへの到達を確認。

5. 議論はある?

- シミュレーションのみでの検証であり、実機での有効性は要旨からは不明。 - object detectorの検出精度やテキストプロンプト依存性の影響は要旨からは不明。 - out-of-distribution物体への頑健性は示されるが、その範囲や限界は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照・比較されている個別研究は明示されていない。 - 関連手法としてGoal-Conditioned Reinforcement Learning、事前学習済みobject detector、mask-based goal conditioning、Large Language Modelsを用いたロボット知覚の研究を挙げる。 - 同分野の定番としてreach-and-graspのRL研究やsim-to-real転移の研究が次に読む候補。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Huiyi Wang, Fahim Shahriar, Alireza Azimi, Gautham Vasan, Rupam Mahmood, Colin Bellinger

分類: cs.RO

原文アブストラクト

General-purpose robotic manipulation, including reach and grasp, is essential for deployment into households and workspaces involving diverse and evolving tasks. Recent advances propose using large pre-trained models, such as Large Language Models and object detectors, to boost robotic perception in reinforcement learning. These models, trained on large datasets via self-supervised learning, can process text prompts and identify diverse objects in scenes, an invaluable skill in RL where learning object interaction is resource-intensive. This study demonstrates how to integrate such models into Goal-Conditioned Reinforcement Learning to enable general and versatile robotic reach and grasp capabilities. We use a pre-trained object detection model to enable the agent to identify the object from a text prompt and generate a mask for goal conditioning. Mask-based goal conditioning provides object-agnostic cues, improving feature sharing and generalization. The effectiveness of the proposed framework is demonstrated in a simulated reach-and-grasp task, where the mask-based goal conditioning consistently maintains a $\sim$90\% success rate in grasping both in and out-of-distribution objects, while also ensuring faster convergence to higher returns.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI