日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2606.05699

DexFuture: 両手巧緻ツール使用のための階層的未来状態視覚運動ターゲティング

DexFuture: Hierarchical Future-State Visuomotor Targeting for Bimanual Dexterous Tool Use

シェア:XThreadsFacebookLINEはてブBluesky

高次元の手の構成と複雑な手-ツール-物体ダイナミクスを扱う両手巧緻ツール使用タスクにおいて、デモンストレーションや遅い計画に依存せずに未来の参照軌道を生成する階層的システムを提案した。

詳しい要約

1. どんなもの?

- 二本腕の器用な道具使用のための階層型システムDexFutureを提案。 - 高レベルのFuture-State Visuomotor Target Predictorと低レベルのTarget-Conditioned Structured Dexterous Policyから構成。 - 高レベルは自己中心RGB、固有感覚、幾何履歴を条件に、horizon-conditioned transformerで多段階未来目標軌道を生成。 - 低レベルはtarget-conditioned per-link transformerで追従。 - OakInk2の両手道具使用タスクで評価。

2. 先行研究と比べてどこがすごい?

- 既存の制御ポリシーはデモからの未来構成参照に依存。 - 未来行動条件付き世界モデルは高次元行動列の遅いオンラインプランニングを必要とする。 - DexFutureはデモの特権状態や遅い反事実プランニングに依存せず、動的に一貫した未来参照軌道を生成。 - 特権オラクル性能の90%を達成し、参照なしポリシーの7%を大幅に上回る。 - 60 Hzで動作し、DexWMスタイルのCEMプランニングより約250倍高速。

3. 技術・手法の肝は?

- 高レベル:自己中心RGB、固有感覚、幾何履歴を条件に、構造化されたhand-tool-object visuomotor埋め込みを構築。 - horizon-conditioned transformerで多段階未来目標軌道を生成。 - 低レベル:target-conditioned per-link transformerで目標を追従。 - 階層により粗い未来参照生成と細かい行動制御、遅い長期意味予測と高頻度実行を分離。

4. どうやって有効だと検証した?

- OakInk2の両手道具使用タスクで評価。 - 特権オラクル性能の90%を達成、参照なしポリシーは7%。 - 60 Hzで動作し、DexWMスタイルのCEMプランニングより約250倍高速。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- DexWM(DexWM-style Cross-Entropy Method (CEM) planning with a future action-conditioned world model) - OakInk2(ベンチマーク) - 関連手法:future action-conditioned world models, hierarchical visuomotor policies

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Runfa Blark Li, Kuang-Ting Tu, Nikola Raicevic, Dwait Bhatt, Xinshuang Liu, Keito Suzuki, Ki Myung Brian Lee, Nikolay Atanasov, Truong Nguyen

分類: cs.RO

原文アブストラクト

Bimanual dexterous tool use remains challenging for robots due to high-dimensional hand configurations and complex hand-tool-object dynamics and contact. Most existing control policies depend on future configuration references provided from demonstrations, while future action-conditioned world models require slow online planning over high-dimensional action sequences. A significant challenge is generating a dynamically consistent future reference trajectory without relying on privileged states from demonstrations or slow counterfactual planning. We propose DexFuture, a hierarchical system that couples a high-level Future-State Visuomotor Target Predictor with a low-level Target-Conditioned Structured Dexterous Policy. Conditioned on egocentric RGB, proprioceptive and geometric history, the high-level predictor constructs structured hand-tool-object visuomotor embeddings and uses a horizon-conditioned transformer to generate a multi-step future target trajectory. Then, the low-level policy tracks them with a target-conditioned per-link transformer. This hierarchy decouples coarse future reference generation from fine-grained action control, and slow long-horizon semantic prediction from high-frequency execution. On OakInk2 bimanual tool-use tasks, DexFuture achieves 90% of the privileged-oracle performance, compared to 7% for a no-reference policy. DexFuture operates at 60 Hz, approximately 250 times faster than DexWM-style Cross-Entropy Method (CEM) planning with a future action-conditioned world model.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI