日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

データ拡張arXiv:2606.19586

1つのデモは千の軌道に値する:視運動ポリシーのためのアクション・ビュー拡張

One Demo is Worth a Thousand Trajectories: Action-View Augmentation for Visuomotor Policies

シェア:XThreadsFacebookLINEはてブBluesky

実世界のデモから魚眼画像シーケンスと物理的に実現可能なアクション軌道を生成するデータ拡張フレームワークを提案し、シミュレーションと実世界で操作タスクの成功率を向上させた。

詳しい要約

1. どんなもの?

- ロボットマニピュレーションのためのVisuomotor Policyの学習データ拡張フレームワーク。 - 実世界のeye-in-handデモ(単一のfisheyeカメラ付きパラレルグリッパで収集)から、視覚的にリアルなfisheye画像列と物理的に実行可能なaction trajectoryを生成する。 - 新規のGaussian Splatting定式化を広FoV fisheyeカメラに適用し、未見物体を含む3Dシーンを再構成・編集。 - Trajectory Optimizationにより、滑らかで衝突のない、view-renderingに適したaction trajectoryを生成し、対応する新規視点から視覚観測をレンダリングする。

2. 先行研究と比べてどこがすごい?

- 従来のVisuomotor Policyは初期配置の変化や未見障害物によりout-of-distribution観測に陥り、大規模データ収集なしでは実行失敗が起きやすい。 - 本手法は、1つのデモから多様な視覚・行動データを生成するデータ拡張を可能にし、追加の実世界データ収集を大幅に削減する。 - 既存のデータ拡張手法と比較して、fisheyeカメラに特化したGaussian SplattingとTrajectory Optimizationを組み合わせ、物理的に実現可能なaction trajectoryを生成する点が新しい。

3. 技術・手法の肝は?

- 実世界のeye-in-handデモを入力とし、単一のfisheyeカメラで撮影された画像列を利用。 - 広FoV fisheyeカメラに適応した新規Gaussian Splattingにより3Dシーンを再構成し、未見物体を追加・編集。 - Trajectory Optimizationを用いて、滑らかで衝突のない、view-renderingに適したaction trajectoryを生成。 - 生成したtrajectoryに基づき、新規視点から視覚観測をレンダリングし、Visuomotor Policyの学習データを拡張。

4. どうやって有効だと検証した?

- シミュレーションと実世界の両方で包括的な実験を実施。 - 同一シーンおよび衝突回避が必要な障害物を含む拡張シーンにおいて、様々なマニピュレーションタスクの成功率が向上することを示した。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。関連手法としてGaussian Splatting、Trajectory Optimization、Visuomotor Policy、Data Augmentationが挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Chuer Pan, Litian Liang, Dominik Bauer, Eric Cousineau, Benjamin Burchfiel, Siyuan Feng, Shuran Song

分類: cs.RO

原文アブストラクト

Visuomotor policies for manipulation have demonstrated remarkable potential in modeling complex robotic behaviors, yet minor alterations in the robot's initial configuration and unseen obstacles easily lead to out-of-distribution observations. Without extensive data collection effort, these result in catastrophic execution failures. In this work, we introduce an effective data augmentation framework that generates visually realistic fisheye image sequences and corresponding physically feasible action trajectories from real-world eye-in-hand demonstrations, captured with a portable parallel gripper with a single fisheye camera. We introduce a novel Gaussian Splatting formulation, adapted to wide FoV fisheye cameras, to reconstruct and edit the 3D scene with unseen objects. We utilize trajectory optimization to generate smooth, collision-free, view-rendering-friendly action trajectories and render visual observations from corresponding novel views. Comprehensive experiments in simulation and the real world show that our augmentation framework improves the success rate for various manipulation tasks in both the same scene and the augmented scene with obstacles requiring collision avoidance.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI