日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

模倣学習/ロボット技能獲得arXiv:2606.11628

LUCID: 非構造化人間ビデオからの身体非依存意図モデル学習による拡張可能な器用なロボット技能獲得

LUCID: Learning Embodiment-Agnostic Intent Models from Unstructured Human Videos for Scalable Dexterous Robot Skill Acquisition

シェア:XThreadsFacebookLINEはてブBluesky

インターネット規模の非構造化人間ビデオからタスク意図を学習し、並列シミュレーションでロボット制御を学習する2段階フレームワークを提案。意図モデルは身体非依存で、異なるロボット形態に適用可能。

詳しい要約

1. どんなもの?

LUCIDは、非構造化人間動画からタスク意図を学習し、ロボット制御を大規模並列シミュレーションで学習する2段階フレームワーク。意図モデルは現在の観測から短期的意図(次に何が起こるべきか)を閉ループで予測し、embodiment固有のsensorimotor policyが意図をロボット行動に変換する。意図インターフェースはコントローラ間で共有され、同じ意図モデルを多様なembodiment(dexterous handからparallel-jaw gripperまで)に適用可能。

2. 先行研究と比べてどこがすごい?

従来のロボット学習パイプラインはロボットデモや構造化人間データから学習し、収集コストが高く特定のembodimentに縛られる。LUCIDは非構造化人間動画を活用し、スケーラブルでembodiment非依存の意図モデルを学習。意図インターフェースを共有することで、異なるembodimentへの適用を可能にした点が優れている。

3. 技術・手法の肝は?

2段階フレームワーク:1) インターネット規模の非構造化人間動画からタスク意図を学習。意図モデルは現在の観測から短期的意図を閉ループで予測。2) 大規模並列シミュレーションでembodiment固有のsensorimotor policyを学習し、意図をロボット行動に変換。意図インターフェースはコントローラ間で共有され、embodiment非依存性を実現。

4. どうやって有効だと検証した?

5つの実世界マニピュレーションタスクで評価:stirring、wiping、binningはインターネット動画のみで教師あり、新規シーンと物体インスタンスへのゼロショット転移を検証。push-Tとcable routingは各自1時間の自己収集スマートフォン動画で教師あり。

5. 議論はある?

要旨からは不明。

6. 次に読むべき論文は?

要旨で参照/比較されている研究は明示されていない。関連手法として、robot demonstrationsやstructured human dataからの学習、embodiment-specific policy learning、sim-to-real transferなどが挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Harsh Gupta, Guanya Shi, Wenzhen Yuan

分類: cs.RO, cs.AI

原文アブストラクト

The most widely-adopted robot learning pipelines today learn skills from robot demonstrations or structured human data, which are expensive to collect and tied to specific embodiments. In contrast, unstructured human videos provide a scalable alternative. They contain diverse manipulation demonstrations across objects, scenes, and strategies, but are not directly connected to robot action. We propose LUCID, a two-stage framework that learns task intent from unstructured human videos drawn from internet-scale datasets and learns robot control in massively-parallel simulation. The intent model predicts short-horizon intent (what should happen next in the scene) from the current observation in closed loop. An embodiment-specific sensorimotor policy converts this intent into robot actions. The intent interface is shared across controllers, so the same intent model can be applied to different embodiments, from our primary dexterous hand to a parallel-jaw gripper. We evaluate LUCID on five real-world manipulation tasks: stirring, wiping, and binning supervised by only internet video, with zero-shot transfer to novel scenes and object instances; and push-T and cable routing supervised by 1 hr each of self-collected smartphone video. Project page: https://lucid-robot.github.io/.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI