日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2506.15666

行動の中の視覚:人間の実演から能動的知覚を学ぶ

Vision in Action: Learning Active Perception from Human Demonstrations

シェア:XThreadsFacebookLINEはてブBluesky

6自由度のロボット首とVRテレオペレーションを用いて、人間の能動的知覚戦略を実演から直接学習し、視覚遮蔽を含む両腕マニピュレーションタスクで高い性能を達成した。

詳しい要約

1. どんなもの?

- 二本腕ロボット操作のための active perception システム「Vision in Action (ViA)」 - 人間のデモンストレーションから、課題に関連する能動的知覚戦略(searching, tracking, focusing など)を直接学習する - ハードウェアとして 6-DoF robotic neck を採用し、人間らしい柔軟な頭部運動を実現 - VR ベースの teleoperation インタフェースで人間の能動的知覚戦略を取得 - 視覚的遮蔽を含む複数段階の二本腕操作タスクに対する visuomotor policy の学習を目指す

2. 先行研究と比べてどこがすごい?

- 受動的な固定視点の知覚ではなく、課題に応じた能動的知覚戦略を人間のデモから学習する点が特徴 - 6-DoF robotic neck により柔軟で人間らしい頭部運動を実現 - VR teleoperation でロボットと操作者が共有観測空間を持つ設計 - 中間 3D scene representation により、ロボットの遅延に起因する VR motion sickness を緩和しつつリアルタイム描画を実現 - 視覚的遮蔽を含む複雑な二本腕多段階タスクで baseline システムを大きく上回ると報告 - 具体的な先行研究名との比較は要旨からは不明

3. 技術・手法の肝は?

- ハードウェア: 6-DoF robotic neck による柔軟な頭部運動 - データ収集: VR-based teleoperation interface で人間の能動的知覚戦略を記録 - 共有観測空間: ロボットと操作者の観測空間を一致させるインタフェース設計 - 遅延対策: 中間 3D scene representation を用い、操作者側はリアルタイム描画、ロボット側の最新観測は非同期に更新 - 学習: 上記要素を組み合わせ、視覚的遮蔽を含むタスク向けの robust な visuomotor policy を学習

4. どうやって有効だと検証した?

- 視覚的遮蔽を含む 3 つの複雑な多段階二本腕操作タスクで評価 - baseline システムと比較し、有意に優れた性能を報告 - 具体的なタスク名・評価指標・被験者数などは要旨からは不明

5. 議論はある?

- VR motion sickness への対処として中間 3D scene representation と非同期更新を採用している点が議論の対象 - 6-DoF robotic neck の実装上の制約や汎用性については要旨からは不明 - 学習された知覚戦略の一般化や他タスクへの転移性は要旨からは不明 - baseline の詳細や定量的な比較結果は要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている具体的な先行研究は明記されていない - 関連手法として、visuomotor policy learning、teleoperation によるデモンストレーション学習、active perception、VR-based data collection の代表的文献を次に読む候補とする - 具体的な論文名は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Haoyu Xiong, Xiaomeng Xu, Jimmy Wu, Yifan Hou, Jeannette Bohg, Shuran Song

分類: cs.RO

原文アブストラクト

We present Vision in Action (ViA), an active perception system for bimanual robot manipulation. ViA learns task-relevant active perceptual strategies (e.g., searching, tracking, and focusing) directly from human demonstrations. On the hardware side, ViA employs a simple yet effective 6-DoF robotic neck to enable flexible, human-like head movements. To capture human active perception strategies, we design a VR-based teleoperation interface that creates a shared observation space between the robot and the human operator. To mitigate VR motion sickness caused by latency in the robot's physical movements, the interface uses an intermediate 3D scene representation, enabling real-time view rendering on the operator side while asynchronously updating the scene with the robot's latest observations. Together, these design elements enable the learning of robust visuomotor policies for three complex, multi-stage bimanual manipulation tasks involving visual occlusions, significantly outperforming baseline systems.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI