日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

模倣学習arXiv:2607.28737

ミラー学習:三人称観察からの模倣学習

Mirror Learning

シェア:XThreadsFacebookLINEはてブBluesky

三人称のデモ映像から、生成モデルで視点変換と逆動力学モデルを用いて一人称の模倣データを合成し、ポリシー学習を可能にする手法を提案した。

詳しい要約

1. どんなもの?

本論文は、三人称視点の観察から行動方策を獲得する「mirror learning」という枠組みを提案している。具体的には、学習者がデモンストレータの視点に立つための視点変換(fine-tuned video diffusion modelによる)と、学習者の制御空間で行動軌道を推論する逆動力学モデルを組み合わせ、三人称観察から擬似的な一人称専門家データ(mirror data)を合成する。このmirror dataを用いて模倣学習を行う手法を提案している。

2. 先行研究と比べてどこがすごい?

従来のbehavior cloning (BC)は、密で整列した一人称データに依存し、三人称デモンストレーションの豊かな観察信号を活用できない。本手法は、三人称観察を利用可能にする点で新規性が高い。また、生成的世界モデル(video diffusion model)を利用することで、テレオペレーションに頼らないスケーラブルで安全なデータ収集の代替手段を提供する点が優れている。

3. 技術・手法の肝は?

手法の核は、(i) 学習者をデモンストレータの視点に置くための視点変換(fine-tuned video diffusion model)と、(ii) 学習者の制御空間で行動軌道を推論する逆動力学モデルの合成である。これにより、三人称観察から擬似一人称専門家データ(mirror data)を生成し、BC訓練に利用する。

4. どうやって有効だと検証した?

実験では、mirror data単独で有効な方策を訓練できることを示し、さらに一人称BC訓練にmirror dataを追加することで下流のポリシー性能が向上することを実証した。具体的なタスクやデータセットは要旨からは不明。

5. 議論はある?

要旨からは、mirror dataの品質や、視点変換と逆動力学モデルの誤差が方策に与える影響、また三人称観察の多様性や実世界での適用可能性に関する議論は不明。また、生成モデルの計算コストや安全性についての詳細な議論も要旨には含まれていない。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、behavior cloning (BC)、video diffusion model、inverse dynamics model、模倣学習全般が挙げられる。具体的な論文名は不明だが、これらの分野の定番論文(例:Diffusion Policy、IDM)を読むことが推奨される。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yunpeng Liu, Matthew Niedoba, Oluwanifemi A. Adekanye, Jason Yoo, Yingchen He, Berend Zwartsenberg, Frank Wood

分類: cs.LG, cs.CV, cs.RO

原文アブストラクト

We investigate imitation learning through the lens of third-person observation and propose a framework for mirror learning: acquiring actionable policies from passive observation. While behavior cloning (BC) excels under dense, well-aligned first-person data, it fundamentally fails to leverage the rich observational signals arising from third-person demonstrations that humans and animals routinely exploit. We introduce a method that composes (i) a learned perspective transformation that places learners in demonstrators' shoes using a fine-tuned video diffusion model and (ii) an inverse dynamics model that infers action trajectories in the learners' control space. This enables the synthesis of mirror data, pseudo first-person expert data generated from third-person observations of demonstrator behavior. Empirically, we show that mirror data alone can train effective policies, and that augmenting first-person BC training with mirror data further improves downstream policy performance. Our results suggest that modern generative world models implicitly encode sufficient structure to enable a scalable and safe alternative to teleoperation-heavy data collection.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI