日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2610.34453

動作表現の事前学習による器用な操作のスケーリング

Scaling Dexterous Manipulation via Action Representation Pretraining

シェア:XThreadsFacebookLINEはてブBluesky

人間の操作データで動作表現エンコーダを事前学習し、それを固定して小型生成モデルでタスク条件付き動作を学習することで、両手器用操作の成功率を大幅に向上させた論文。

詳しい要約

1. どんなもの?

- 複雑な dexterous manipulation のための action 生成を改善する枠組み ARPG (Action Representation Pretraining and Generation) を提案する研究。 - action representation の学習と、task-conditioned な action 分布の生成を明示的に分離する点が特徴。 - 大規模な human manipulation data で action representation encoder を事前学習し、その後 encoder を凍結して軽量な generative backbone (130M parameters) を学習する。 - DexJoCo benchmark での評価と bimanual dexterous manipulation への適用を示す。

2. 先行研究と比べてどこがすごい?

- 従来は限られた robot demonstrations で action representation と task-conditioned action 分布の両方を同時に学習する必要があり、複雑な dexterous action の生成が制約されていた。 - 提案手法は action representation 学習を大規模 human manipulation data に切り離すことで、この制約に対処する。 - DexJoCo benchmark で state-of-the-art を達成。 - bimanual dexterous manipulation の平均成功率を π_{0.5} の 10.1% から 44.7% へ改善。 - action representation pretraining が複雑な dexterous manipulation を改善する独立した scaling 次元になり得ることを示す。

3. 技術・手法の肝は?

- 2段階の設計: まず大規模 human manipulation data で action representation encoder を事前学習する。 - 次に encoder を凍結し、その表現空間内で task-conditioned action 分布を学習する compact な generative backbone (130M parameters) を訓練する。 - action representation の学習と action 生成の学習を分離することで、限られた robot demonstrations を生成モデルの学習に集中させる。 - 詳細な architecture や学習目的関数は要旨からは不明。

4. どうやって有効だと検証した?

- DexJoCo benchmark 上で評価し、state-of-the-art 性能を報告。 - bimanual dexterous manipulation において平均成功率を π_{0.5} の 10.1% から 44.7% へ改善したと報告。 - scaling 実験により、human manipulation behaviors のカバレッジ拡大が downstream 性能を効果的に向上させることを示す。 - 具体的なタスク設定や評価プロトコルの詳細は要旨からは不明。

5. 議論はある?

- action representation pretraining が複雑な dexterous manipulation 能力を高める独立した scaling 次元を提供するという主張。 - human manipulation behaviors のカバレッジ拡大が downstream 性能を改善することを scaling 実験で示唆。 - 限界や失敗事例、計算コスト、sim-to-real の議論は要旨からは不明。

6. 次に読むべき論文は?

- 比較対象として言及される π_{0.5}。 - 評価に用いられた DexJoCo benchmark 関連の研究。 - 背景として言及される大規模 vision・language・video pretraining を用いた robotic manipulation モデル。 - action representation learning や human manipulation data を用いた事前学習に関する関連研究(具体的な文献名は要旨からは不明)。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yanjinghao Xu, Jiexin Zhang, Huan Zhao, Jianjia Mo, Zhenghao Yin, Dingkang Liang, Xiang Bai, Han Ding

分類: cs.RO

原文アブストラクト

Large-scale vision, language, and video pretraining has substantially improved the perception and generalization capabilities of robotic manipulation models, but action generation for complex dexterous manipulation remains constrained by the scarcity of robot demonstrations. Limited robot demonstrations must be used to learn both action representations and task-conditioned action distributions, making it difficult to adequately learn action representations and, in turn, limiting the ability of downstream generative models to generate complex dexterous actions. To address this limitation, we propose ARPG (Action Representation Pretraining and Generation), which explicitly separates action representation learning from action generation: we first pretrain an action representation encoder on large-scale human manipulation data. We then freeze the encoder and train a compact generative backbone (130M parameters) to learn task-conditioned action distributions in the encoder's representation space. Experimental results show that ARPG achieves state-of-the-art performance on the DexJoCo benchmark and improves the average success rate on bimanual dexterous manipulation from 10.1% for $π_{0.5}$ to 44.7%. Scaling experiments further show that broader coverage of human manipulation behaviors effectively improves downstream performance. These results indicate that action representation pretraining provides an independent scaling dimension for improving complex dexterous manipulation capabilities.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI