日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2611.02171

GoalDex:画像ゴール条件付き巧みな手内操作ポリシーの学習

GoalDex: Learning Image-Goal-Conditioned Policies for Dexterous In-Hand Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

物体姿勢推定を介さずRGB画像と固有感覚から直接巧みな手内回転操作を学習する視覚運動フレームワークを提案し、画像で目標姿勢を指定できるようにした。シミュレーションで姿勢ベース手法を上回り、実機5物体へのsim2real転移も示した。

詳しい要約

1. どんなもの?

- ロボットハンドによる器用な in-hand manipulation(把持物体の回転・再配向)のための end-to-end visuomotor framework。 - RGB 観測と proprioception のみを入力とし、中間的な object pose estimation を行わない。 - 目標物体姿勢を画像で指定する image-goal-conditioned reorientation を導入。 - simulation での評価に加え、単一ポリシーの sim-to-real transfer を実機5物体で実証。

2. 先行研究と比べてどこがすごい?

- 従来は explicit object pose estimation を前提とする手法が主流で、hand-object occlusion 下での pose tracking が困難、物体固有の supervision が必要というボトルネックがあった。 - 本研究は pose estimation を介さず RGB と proprioception から直接制御する点が新しい。 - 目標指定も canonical pose ではなく画像で行える点が先行の pose-based 手法と異なる。 - 実験で pose-based 手法や pretrained visual encoder を用いたポリシーを一貫して上回ったと報告。

3. 技術・手法の肝は?

- RGB 観測と proprioception を入力とする end-to-end visuomotor framework。 - privileged state teachers からの behavior distillation により制御ポリシーを学習。 - 併せて auxiliary reconstruction objectives を導入し、visual representation と制御ポリシーを joint に学習。 - image-goal-conditioned reorientation により、目標物体配置を画像で直接指定。 - 中間の pose estimation を排除した perception-control 統合が肝。

4. どうやって有効だと検証した?

- simulation 上で多様な物体 geometry と instance に対して評価。 - pose-based 手法および pretrained visual encoder ベースのポリシーと比較し、一貫して優位と報告。 - 単一の image-goal-conditioned policy を実機5物体へ直接 sim-to-real transfer し、explicit pose estimation なしで再配向が可能なことを実証。 - 詳細な定量指標や被験物体の内訳は要旨からは不明。

5. 議論はある?

- explicit pose estimation なしでも accurate な dexterous reorientation が可能であることを示唆。 - 一方、sim-to-real は5物体・単一ポリシーの範囲であり、一般物体への汎化や限界については要旨からは不明。 - occlusion や物体固有 supervision への依存低減が robustness・scalability にどう寄与するかの定量議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で比較対象として言及される pose-based methods、pretrained visual encoders を用いた policies。 - 関連手法として behavior distillation(privileged state teachers からの distillation)および auxiliary reconstruction objectives を用いる研究。 - 背景として dexterous in-hand manipulation における object pose estimation ベースの研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Arjun Bhardwaj, Mayank Mittal, Maximum Wilder-Smith, Vaishakh Patil, Marco Hutter

分類: cs.RO

原文アブストラクト

Dexterous in-hand manipulation is commonly formulated around explicit object pose estimation, yet reliable pose tracking is challenging under severe hand-object occlusions and often requires object-specific supervision. This dependence creates a bottleneck between perception and control that can limit robustness and scalability. We present an end-to-end visuomotor framework for dexterous in-hand reorientation that operates on RGB observations and proprioception without intermediate pose estimation. Our approach jointly learns visual representations and control policies through behavior distillation from privileged state teachers and auxiliary reconstruction objectives. Furthermore, we introduce image-goal-conditioned reorientation, allowing desired object configurations to be specified directly through images rather than canonical pose representations. We evaluate our approach across a diverse set of object geometries and instances in simulation, where it consistently outperforms pose-based methods and policies built on pretrained visual encoders. Finally, we demonstrate direct sim-to-real transfer of a single image-goal-conditioned policy across five real-world objects, showing that accurate dexterous reorientation can be achieved without explicit pose estimation. For videos and code release, please refer to the project website: https://rffr.leggedrobotics.com/works/goaldex/

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI