日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2506.10968

アイ・ロボット:見ることで行動する知覚-行動ループのBC-RL学習

Eye, Robot: Learning to Look to Act with a BC-RL Perception-Action Loop

シェア:XThreadsFacebookLINEはてブBluesky

自由に回転する眼球を強化学習で制御し、模倣学習とRLのループで手と眼を協調させて広域作業空間でのマニピュレーションを実現した研究。

詳しい要約

1. どんなもの?

- 実世界タスク遂行のために自ら視線を動かすgaze behaviorを獲得するロボットシステムEyeRobotの提案。 - 自由回転するmechanical eyeballを搭載し、360 cameraで取得したデータを活用。 - 単一カメラで広い作業空間のmanipulationを可能にすることを目指す。

2. 先行研究と比べてどこがすごい?

- 受動的な観察ではなく、タスク完了の必要性からgazeが創発する点が特徴。 - 単一カメラでロボットアーム周囲の弧状に広がる作業空間をカバー。 - foveal-inspiredなpolicy architectureにより、小さなcompute budgetで高解像度を実現。 - 先行研究との具体的比較は要旨からは不明。

3. 技術・手法の肝は?

- 自由回転するmechanical eyeballを開発し、gaze policyをreinforcement learningで訓練。 - teleoperated demonstrationsと360 cameraのデータを収集し、任意のeyeball viewpointをrenderできるsimulation環境へ取り込む。 - BC-RL loopを導入:hand (BC) agentはrenderされたeye observationから訓練され、eye (RL) agentはhandが正しいaction predictionを出したときに報酬を得る。 - foveal-inspiredなpolicy architectureを実装。

4. どうやって有効だと検証した?

- ロボットアーム周囲の弧状manipulationを要する5つのpanoramic workspace manipulation tasksで評価。 - hand-eye coordination behaviorsが大規模作業空間でのmanipulationを単一カメラで効果的に促進することを実験的に示唆。 - foveal-inspired architectureが安定したfixationの創発、object tracking、distractor無視の改善につながることを確認。

5. 議論はある?

- foveal-inspired architectureがcompute budget削減だけでなく、fixationの安定化やtracking・distractor無視の改善をもたらす点を議論。 - 単一カメラで広い作業空間を扱える可能性を示す一方、限界や失敗事例の詳細は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照・比較されている個別研究は明示されていない。 - 関連手法としてBehavior Cloning (BC)、Reinforcement Learning (RL)、foveal-inspired vision、active perception、teleoperation、simulation-based renderingが挙げられる。 - 同分野の定番としてimitation learningやvision-based manipulationの代表的手法を参照するのが有用。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Justin Kerr, Kush Hari, Ethan Weber, Chung Min Kim, Brent Yi, Tyler Bonnen, Ken Goldberg, Angjoo Kanazawa

分類: cs.RO, cs.CV

原文アブストラクト

Humans do not passively observe the visual world -- we actively look in order to act. Motivated by this principle, we introduce EyeRobot, a robotic system with gaze behavior that emerges from the need to complete real-world tasks. We develop a mechanical eyeball that can freely rotate to observe its surroundings and train a gaze policy to control it using reinforcement learning. We accomplish this by first collecting teleoperated demonstrations paired with a 360 camera. This data is imported into a simulation environment that supports rendering arbitrary eyeball viewpoints, allowing episode rollouts of eye gaze on top of robot demonstrations. We then introduce a BC-RL loop to train the hand and eye jointly: the hand (BC) agent is trained from rendered eye observations, and the eye (RL) agent is rewarded when the hand produces correct action predictions. In this way, hand-eye coordination emerges as the eye looks towards regions which allow the hand to complete the task. EyeRobot implements a foveal-inspired policy architecture allowing high resolution with a small compute budget, which we find also leads to the emergence of more stable fixation as well as improved ability to track objects and ignore distractors. We evaluate EyeRobot on five panoramic workspace manipulation tasks requiring manipulation in an arc surrounding the robot arm. Our experiments suggest EyeRobot exhibits hand-eye coordination behaviors which effectively facilitate manipulation over large workspaces with a single camera. See project site for videos: https://www.eyerobot.net/

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI