日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

空中マニピュレーションarXiv:2510.02614

UMI-on-Air: 機体特性を考慮した汎用視覚運動ポリシーの空中マニピュレーション展開

UMI-on-Air: Embodiment-Aware Guidance for Embodiment-Agnostic Visuomotor Policies

シェア:XThreadsFacebookLINEはてブBluesky

手持ちグリッパで収集した人間の操作データから汎用視覚運動ポリシーを学習し、拡散サンプリングに制御器の追従コスト勾配を組み込むことで、空中マニピュレータなど制約の強い機体でも動的に実行可能な軌道を生成する手法を提案した。

詳しい要約

1. どんなもの?

- UMI-on-Air は、embodiment-agnostic な manipulation policy を embodiment-aware に展開するためのフレームワーク。 - handheld gripper (UMI) で収集した多様で制約のない human demonstrations を用いて、汎化可能な visuomotor policies を学習する。 - 学習済み policy を aerial manipulators のような制約のある robotic embodiments へ転送する際の、制御・ロボットダイナミクスの不一致による out-of-distribution 挙動と実行性能低下を扱う。 - 推論時に高レベル UMI policy と低レベル embodiment-specific controller を結合する Embodiment-Aware Diffusion Policy (EADP) を提案する。

2. 先行研究と比べてどこがすごい?

- 従来の embodiment-agnostic な visuomotor policy は、展開先 embodiment の制御・ダイナミクス制約を考慮せず、out-of-distribution 挙動や実行失敗を招きやすい。 - 本研究は、推論時に controller の tracking cost の gradient feedback を diffusion sampling に統合し、展開 embodiment に適した動的に実行可能な trajectory mode へ誘導する点が新しい。 - これにより test time での plug-and-play な embodiment-aware trajectory adaptation を実現する。 - unguided diffusion baselines と比較して、成功率・効率・外乱下の頑健性が向上したと報告している。

3. 技術・手法の肝は?

- handheld gripper (UMI) による多様な human demonstrations から、汎化可能な visuomotor policy を学習する。 - 推論時には、高レベル UMI policy と低レベル embodiment-specific controller を結合する Embodiment-Aware Diffusion Policy (EADP) を構成する。 - controller の tracking cost から得られる gradient feedback を diffusion sampling process に組み込み、trajectory 生成を展開 embodiment に合わせた動的に実行可能な mode へ誘導する。 - これにより、展開先ごとの追加学習なしに、test time で embodiment-aware な trajectory 適応を可能にする。

4. どうやって有効だと検証した?

- 複数の long-horizon かつ high-precision な aerial manipulation tasks で検証している。 - unguided diffusion baselines と比較し、成功率・効率・外乱下での頑健性の改善を示している。 - さらに、実環境 (in the wild) で収集した UMI demonstrations を用い、未見環境での展開を実証している。 - code・data・checkpoints・result videos は umi-on-air.github.io で公開されている。

5. 議論はある?

- 制約の強い embodiment への転送における制御・ダイナミクス不一致を、推論時の gradient feedback で緩和する枠組みを提示している。 - 多様かつ制約のない human demonstrations を、aerial manipulators を含む異なる embodiment へスケールする実用的経路を示すと主張している。 - 一方で、EADP の限界、tracking cost の設計依存性、他 embodiment への一般性、失敗事例などは要旨からは不明。

6. 次に読むべき論文は?

- 比較対象として明示されている unguided diffusion baselines に対応する Diffusion Policy 系の研究。 - handheld gripper (UMI) を用いた human demonstration 収集・学習に関する UMI 系の研究。 - aerial manipulation における制御・軌道生成の関連研究。 - diffusion sampling に制約や勾配情報を組み込む guided diffusion / cost-guided sampling 系の研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Harsh Gupta, Xiaofeng Guo, Huy Ha, Chuer Pan, Muqing Cao, Dongjae Lee, Sebastian Scherer, Shuran Song, Guanya Shi

分類: cs.RO

原文アブストラクト

We introduce UMI-on-Air, a framework for embodiment-aware deployment of embodiment-agnostic manipulation policies. Our approach leverages diverse, unconstrained human demonstrations collected with a handheld gripper (UMI) to train generalizable visuomotor policies. A central challenge in transferring these policies to constrained robotic embodiments-such as aerial manipulators-is the mismatch in control and robot dynamics, which often leads to out-of-distribution behaviors and poor execution. To address this, we propose Embodiment-Aware Diffusion Policy (EADP), which couples a high-level UMI policy with a low-level embodiment-specific controller at inference time. By integrating gradient feedback from the controller's tracking cost into the diffusion sampling process, our method steers trajectory generation towards dynamically feasible modes tailored to the deployment embodiment. This enables plug-and-play, embodiment-aware trajectory adaptation at test time. We validate our approach on multiple long-horizon and high-precision aerial manipulation tasks, showing improved success rates, efficiency, and robustness under disturbances compared to unguided diffusion baselines. Finally, we demonstrate deployment in previously unseen environments, using UMI demonstrations collected in the wild, highlighting a practical pathway for scaling generalizable manipulation skills across diverse-and even highly constrained-embodiments. All code, data, checkpoints, and result videos can be found at umi-on-air.github.io.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI