日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2606.06194

ActiveMimic: 能動的知覚を備えた自己中心視点ビデオ事前学習

ActiveMimic: Egocentric Video Pretraining with Active Perception

シェア:XThreadsFacebookLINEはてブBluesky

自己中心視点の人間ビデオから能動的知覚(カメラ動作)を活用してロボット操作を事前学習するフレームワークを提案し、ロボットデータ事前学習と同等の性能を実現した。

詳しい要約

1. どんなもの?

- 一人称視点の人間動画をロボットの事前学習に活用するフレームワーク。 - カメラと手首の軌跡を単一の身体装着RGBカメラから復元。 - カメラの動きを視点アクションとしてモデル化。 - 能動的知覚と操作を同時に学習し、ロボットに適応。

2. 先行研究と比べてどこがすごい?

- 従来の一人称動画事前学習はロボットデータに劣っていた。 - その原因を能動的知覚の欠如と特定。 - カメラの動きをノイズではなく視点アクションとして扱う点が新しい。 - 実世界実験で人間動画ベースラインを上回り、ロボットデータ事前学習のSOTAに匹敵。

3. 技術・手法の肝は?

- 単一の身体装着RGBカメラから同期したカメラと手首の軌跡を復元。 - カメラの動きを視点アクションとしてモデル化。 - 能動的知覚と操作を一人称人間動画から同時学習。 - その後、対象ロボットに適応。

4. どうやって有効だと検証した?

- 多様な能動的知覚要求を持つ実世界タスクで実験。 - 人間動画で事前学習したベースラインを一貫して上回る。 - ロボットデータで事前学習したSOTAモデルに匹敵する性能。 - 能動的知覚能力が一人称人間動画事前学習に由来することを示す分析。

5. 議論はある?

- 能動的知覚が一人称人間動画をロボット事前学習に活用する鍵であると確認。 - 能動的知覚能力はロボット特有の微調整ではなく、一人称人間動画事前学習に由来する証拠を提示。 - その他の議論や限界については要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 同分野の定番として、ロボットデータによる事前学習(例: RT-1, RT-2)や一人称動画事前学習(例: R3M, MVP)が挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xingyao Lin, Guojin Zhong, Tianyi Lu, Ziyi Ye, Yichen Zhu, Zuxuan Wu, Yu-Gang Jiang

分類: cs.RO, cs.CV

原文アブストラクト

Egocentric human video offers a scalable alternative to robot data for pretraining, yet models pretrained on such video consistently underperform those pretrained on robot data. We attribute this gap to a missing signal, the active perception behavior in egocentric videos, where humans continuously reposition their viewpoint during manipulation, inducing camera motion that standard pipelines treat as noise. To address this, we present ActiveMimic, a pretraining framework that recovers synchronized camera and wrist trajectories from a single body-worn RGB camera, models camera motion as a viewpoint action, and jointly learns active perception and manipulation from in-the-wild egocentric human video before adapting to a target robot. Empirically, real-world experiments across tasks with diverse active perception demands show that ActiveMimic consistently surpasses baselines pretrained on human video and matches state-of-the-art models pretrained on robot data. Further analysis provides evidence that active perception capability originates from egocentric human video pretraining rather than robot-specific fine-tuning, confirming active perception as the key to unlocking egocentric human video for robot pretraining.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI