日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

操作学習arXiv:2604.08534

ActiveGlasses: 自己中心的な人間のデモから能動視覚で操作を学習する

ActiveGlasses: Learning Manipulation with Active Vision from Ego-centric Human Demonstration

シェア:XThreadsFacebookLINEはてブBluesky

スマートグラスに取り付けたステレオカメラで人間のデモを収集し、同じカメラをロボットの知覚アームに搭載して能動視覚を再現することで、ロボット操作をゼロショット転移で学習するシステムを提案した。

詳しい要約

1. どんなもの?

- 大規模な実世界ロボットデータ収集を目的としたシステム - スマートグラスに搭載したステレオカメラを唯一の知覚デバイスとして使用 - データ収集時は操作者が装着し、展開時は6-DoF知覚アームに同じカメラを搭載 - 一人称視点の人間デモンストレーションからロボット操作を学習 - 能動視覚を再現し、ゼロショット転送を実現

2. 先行研究と比べてどこがすごい?

- 既存のパイプラインは特殊なハンドヘルドデバイスに依存し、操作者負担や拡張性の制限があった - 人間の自然な知覚-操作行動の調整を捉えるのが困難だった - ActiveGlassesは自然なシステムで、人間の操作と知覚行動を忠実に捉え、ゼロショット転送を可能にする - 同じハードウェア設定下で強力なベースラインを一貫して上回る

3. 技術・手法の肝は?

- スマートグラスに搭載したステレオカメラがデータ収集とポリシー推論の唯一の知覚デバイス - デモンストレーションから物体軌道を抽出 - 物体中心の点群ポリシーを用いて操作と頭部運動を同時に予測 - 展開時には6-DoF知覚アームにカメラを搭載し、人間の能動視覚を再現

4. どうやって有効だと検証した?

- 遮蔽や精密なインタラクションを含むいくつかの挑戦的タスクで評価 - 能動視覚を用いたゼロショット転送を達成 - 同じハードウェア設定下で強力なベースラインを一貫して上回る - 2つのロボットプラットフォーム間で汎化することを確認

5. 議論はある?

- 要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究や関連手法は明示されていない - 同分野の定番として、imitation learning、object-centric policy、active vision、zero-shot transferに関する論文が挙げられる

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yanwen Zou, Chenyang Shi, Wenye Yu, Han Xue, Jun Lv, Ye Pan, Chuan Wen, Cewu Lu

分類: cs.RO

原文アブストラクト

Large-scale real-world robot data collection is a prerequisite for bringing robots into everyday deployment. However, existing pipelines often rely on specialized handheld devices to bridge the embodiment gap, which not only increases operator burden and limits scalability, but also makes it difficult to capture the naturally coordinated perception-manipulation behaviors of human daily interaction. This challenge calls for a more natural system that can faithfully capture human manipulation and perception behaviors while enabling zero-shot transfer to robotic platforms. We introduce ActiveGlasses, a system for learning robot manipulation from ego-centric human demonstrations with active vision. A stereo camera mounted on smart glasses serves as the sole perception device for both data collection and policy inference: the operator wears it during bare-hand demonstrations, and the same camera is mounted on a 6-DoF perception arm during deployment to reproduce human active vision. To enable zero-transfer, we extract object trajectories from demonstrations and use an object-centric point-cloud policy to jointly predict manipulation and head movement. Across several challenging tasks involving occlusion and precise interaction, ActiveGlasses achieves zero-shot transfer with active vision, consistently outperforms strong baselines under the same hardware setup, and generalizes across two robot platforms.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI