日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2611.11166

DexForesight:暗黙的な空間予測で器用把持ポリシーを接地する

DexForesight: Grounding Dexterous Policies with Implicit Spatial Foresight

シェア:XThreadsFacebookLINEはてブBluesky

オフラインの深度・手形状・軌道から行動条件付き空間ワールドモデルを学習し、その予測表現をポリシーの潜在空間に蒸留することで、展開時はRGBのみで器用操作を実現する手法。

詳しい要約

1. どんなもの?

- Dexterous manipulation のための policy learning framework「DexForesight」 - 周囲 scene と robot hand の両方に対する spatial foresight を、明示的な未来予測ではなく latent space に暗黙的に注入する - 学習時のみ action-conditioned spatial world model を用い、deployment 時は policy のみで RGB・language・robot state から動作 - DexJoCo 11 タスクと実機 3 タスクで評価

2. 先行研究と比べてどこがすごい?

- 既存の world-action models は explicit future prediction で predictive knowledge を獲得する傾向 - DexForesight は future prediction を明示せず、world model の predictive world queries と policy queries を align して spatial dynamics を policy latents に転写 - deployment 時に depth 入力や明示的未来予測を必要としない点が特徴 - 要旨からは不明: 具体的な先行研究名との直接比較数値

3. 技術・手法の肝は?

- 学習時: offline scene depth、kinematic hand geometry、demonstration trajectories から action-conditioned spatial world model を学習 - world model は 3D hand-point motion と visual feature changes を予測し、articulated hand dynamics と scene changes、カメラに遮蔽された finger の動きも捉える - world model を freeze し、policy queries を predictive world queries に align、spatial dynamics を policy latents に転写して action generation を条件付け - deployment 時は policy のみ保持し RGB・language・robot state で動作

4. どうやって有効だと検証した?

- DexJoCo simulation 11 タスクで base policy の overall success rate を 49.4% から 60.5% へ改善 - 実機 dexterous manipulation 3 タスクで 58.3% 成功、最強 baseline の 50.0% を上回る - 詳細な ablation や評価プロトコルは要旨からは不明

5. 議論はある?

- 要旨からは不明: 限界や失敗要因、world model の誤差影響、汎化性に関する議論は明記されていない - 示唆される点として、depth や explicit future prediction なしで deployment 可能な設計 - 実機と simulation の双方で改善が報告されているが、タスク多様性や real-world のばらつきに関する議論は要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている具体的な先行研究名は明記されていない - 関連手法として world-action models、action-conditioned world models、dexterous policy learning の代表的文献を次に読む候補として挙げる - DexJoCo benchmark および実機 dexterous manipulation の baseline 論文も参照候補

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zhongxi Chen, Yi Yang, Xinyi Chen, Mingzhe Ye, Yaping Li, Zhihong Liu, Congsheng Xu, Haonan Wang, Zhijie Deng

分類: cs.RO

原文アブストラクト

Dexterous manipulation requires rich spatial foresight over both the surrounding scene and the robot hand. Existing world-action models often acquire such predictive knowledge through explicit future prediction. We introduce DexForesight, a framework that learns spatial foresight implicitly by injecting dynamics-aware world representations into the latent space of a dexterous policy. During training, DexForesight learns an action-conditioned spatial world model from offline scene depth, kinematic hand geometry, and demonstration trajectories. The world model predicts 3D hand-point motion and visual feature changes, capturing both articulated hand dynamics and scene changes under demonstrated actions, including the motion of fingers occluded from the cameras. We then freeze the world model and align policy queries with its predictive world queries, transferring the learned spatial dynamics into policy latents and using them to condition action generation. At deployment, only the policy is retained, operating on RGB observations, language, and robot state without depth input or explicit future prediction. On 11 DexJoCo simulation tasks, DexForesight improves the overall success rate of the base policy from 49.4% to 60.5%. On three real-robot dexterous manipulation tasks, DexForesight achieves 58.3% success, compared with 50.0% for the strongest baseline.Project page https://dexforesight.github.io/

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI