日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

クロスエンボディメント学習arXiv:2511.17001

カメラ座標系でロボット動作を統一する

Unify Robot Actions in Camera Frame

シェア:XThreadsFacebookLINEはてブBluesky

カメラ外部パラメータを用いて異なるロボットの動作をカメラ座標系で統一し、訓練不要でカメラ外部パラメータを推定するCalibAllを提案。16データセットで約97Kエピソードを校正し、クロスエンボディメント事前学習で最先端性能を達成。

詳しい要約

1. どんなもの?

- カメラ座標系でロボットの行動を統一する表現を提案する研究。 - camera extrinsics を用いて、単腕・双腕を含む異なる embodiment 間で一貫した幾何的意味を持つ action 表現を実現。 - 既存データセットの camera extrinsic 未注釈問題に対応するため、CalibAll という training-free で robot-independent な注釈パイプラインも提案。 - 16 データセット・4 robot platforms に適用し、約 97K episodes の校正済みデータを生成。

2. 先行研究と比べてどこがすごい?

- 既存の action 表現は platform 固有の不整合を抱え、embodiment-specific action heads や latent action spaces では根本的な不一致を解消できなかった。 - 本研究は camera frame に基づく幾何的に一貫した action 表現でこの不一致に正面から対処。 - 既存の offline calibration は local minima や robot 固有の training data を必要とする問題があったが、CalibAll は training-free かつ robot-independent。 - 下流の simulation・real-robot 実験で cross-embodiment pretraining が state-of-the-art 性能を達成。

3. 技術・手法の肝は?

- camera extrinsics を用いて action を camera frame に変換し、embodiment 間で一貫した幾何的意味を付与。 - CalibAll は coarse-to-fine の校正戦略を採用。 - まず temporal PnP で安定した初期化を取得。 - 続いて differentiable rendering ベースの refinement で高精度化。 - extrinsics に加え、標準化された TCP-pose actions と補助注釈も生成。 - 異種ロボットの action を標準化された camera-frame actions に変換する注釈パイプラインとして機能。

4. どうやって有効だと検証した?

- CalibAll を 4 robot platforms・16 datasets に適用し、約 97K の校正済み data episodes を生成。 - 下流の simulation 実験および real-robot 実験を実施。 - camera-frame actions を用いた cross-embodiment pretraining が state-of-the-art 性能を達成することを示した。 - 個々の校正精度の定量指標など詳細は要旨からは不明。

5. 議論はある?

- 既存データセットに camera extrinsic 注釈が乏しい点を課題として明示し、CalibAll で補完するアプローチを提示。 - 既存 offline calibration の local minima や robot 固有 training data 依存という限界を議論。 - camera frame 統一により embodiment 間の幾何的一貫性が得られる一方、校正誤差や対象 platform の一般性に関する詳細な議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で直接参照・比較されている具体的な先行研究名は記載なし。 - 関連手法として、camera extrinsics を用いる calibration 手法、temporal PnP、differentiable rendering ベースの refinement、latent action space 学習、embodiment-specific action heads に関する研究を挙げて追うのが有用。 - cross-embodiment robot learning の定番として、RT-1/RT-2 系や Open X-Embodiment などの大規模データセット・基盤モデル研究も参照候補。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Sicheng Xie, Lingchen Meng, Zijie Diao, Haidong Cao, Zhiying Du, Shuyuan Tu, Jiaqi Leng, Qiuyue Wang, Mingsheng Li, Shuai Bai, Zuxuan Wu, Yu-Gang Jiang

分類: cs.RO

原文アブストラクト

Cross-embodiment robot learning requires a unified action representation with consistent semantics across robot platforms. Existing representations suffer from platform-specific inconsistencies, while current solutions either maintain embodiment-specific action heads or learn latent action spaces, without fundamentally resolving the mismatch. We propose to unify robot actions in the camera frame using camera extrinsics, so that actions share consistent geometric semantics across different robot embodiments, including both single-arm and bimanual robots. However, most existing datasets lack camera extrinsic annotations, and existing offline calibration methods either suffer from local minima or require robot-specific training data. To address this gap, we present CalibAll, a training-free, robot-independent annotation pipeline that estimates camera extrinsics for offline datasets and converts heterogeneous robot actions into standardized camera-frame actions. CalibAll follows a coarse-to-fine calibration strategy: temporal PnP provides a stable initialization, followed by differentiable rendering-based refinement for high precision. Beyond extrinsics, CalibAll produces standardized TCP-pose actions and auxiliary annotations. We apply CalibAll to 16 datasets across 4 robot platforms, producing approximately 97K calibrated data episodes. Downstream simulation and real-robot experiments show that cross-embodiment pretraining with camera-frame actions achieves state-of-the-art performance.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI