日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2511.05199

動画検索によるロボットマニピュレーションの学習

Let Me Show You: Learning by Retrieving from Egocentric Video for Robotic Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

一人称視点の人間のデモ動画を検索し、その中から物体のアフォーダンスや手の軌道を抽出してロボットのマニピュレーション方策を学習する手法を提案。

詳しい要約

1. どんなもの?

- 複雑・不確実な環境でロボットが manipulation task を学習するための新手法 Retrieving-from-Video (RfV) を提案する研究。 - 人間の日常タスク動画を集めた video bank を構築し、task specification に応じて関連動画を検索して policy 学習に活用する。 - 人間が未知タスクを動画視聴で学ぶ analogies をロボットに持ち込む枠組み。

2. 先行研究と比べてどこがすごい?

- 従来の高度なロボットシステムは manipulation task 学習に大規模データセットを要することが多い。 - 本手法は外部 video bank から task-relevant video を検索して学習に組み込む点で、大規模データセット依存と異なるアプローチ。 - 訓練データ外のタスクへの generalization を狙う点を従来システムとの差異として主張。

3. 技術・手法の肝は?

- video bank に人間の多様な日常タスク録画を蓄積する。 - 動画から object affordance masks や hand motion trajectories といった mid-level information を抽出し、追加入力としてモデル学習と generalization を強化する。 - dual-component system: video retriever が task specification に基づき外部 video bank から task-relevant video を取得し、policy generator がその知識を学習サイクルに統合する。

4. どうやって有効だと検証した?

- 複数の simulated および real-world settings で厳密な testing を実施。 - conventional robotic systems と比較して performance の顕著な改善を示したと報告。 - 具体的なタスク・指標・被験者数などは要旨からは不明。

5. 議論はある?

- 適応的な応答と訓練外タスクへの generalization を可能にすると主張。 - 限界・失敗事例・計算コスト・video bank の規模依存性などの議論は要旨からは不明。 - 比較対象の conventional robotic systems の詳細も要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として video retrieval、imitation learning from video、object affordance、hand motion trajectory を用いた manipulation policy learning の代表的論文を次に読む候補とする。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yichen Zhu, Feifei Feng

分類: cs.RO

原文アブストラクト

Robots operating in complex and uncertain environments face considerable challenges. Advanced robotic systems often rely on extensive datasets to learn manipulation tasks. In contrast, when humans are faced with unfamiliar tasks, such as assembling a chair, a common approach is to learn by watching video demonstrations. In this paper, we propose a novel method for learning robot policies by Retrieving-from-Video (RfV), using analogies from human demonstrations to address manipulation tasks. Our system constructs a video bank comprising recordings of humans performing diverse daily tasks. To enrich the knowledge from these videos, we extract mid-level information, such as object affordance masks and hand motion trajectories, which serve as additional inputs to enhance the robot model's learning and generalization capabilities. We further feature a dual-component system: a video retriever that taps into an external video bank to fetch task-relevant video based on task specification, and a policy generator that integrates this retrieved knowledge into the learning cycle. This approach enables robots to craft adaptive responses to various scenarios and generalize to tasks beyond those in the training data. Through rigorous testing in multiple simulated and real-world settings, our system demonstrates a marked improvement in performance over conventional robotic systems, showcasing a significant breakthrough in the field of robotics.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI