日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

模倣学習arXiv:2607.08857

AgenticFocus: 人間の一人称視点ビデオからの物体保持型MR合成による器用なヒューマノイド学習

AgenticFocus: Object-Preserving Mixed Reality Synthesis from Human FPV Video for Dexterous Humanoid Learning

シェア:XThreadsFacebookLINEはてブBluesky

人間の一人称視点ビデオから、隠れた物体の形状復元と手の動きの再構築を行い、ヒューマノイドロボットの学習用デモを生成するMR合成パイプラインを提案した。

詳しい要約

1. どんなもの?

- 一人称視点(FPV)の人間動画を、ヒューマノイドの器用な操作学習に使える Mixed Reality(MR)合成パイプライン。 - 遮蔽された物体形状の復元、全手の動作再構成、カメラ相対アライメントとレイヤ合成によるヒューマノイドへのリターゲティングを行う。 - 生成データセットは、焦点の合った視覚観測と同期したロボットの行動・状態をペアで提供する。

2. 先行研究と比べてどこがすごい?

- 既存の一人称視点パイプラインは、hand-object occlusion、過度に単純化された動作、専用キャプチャハードウェアを要する点が課題だった。 - AgenticFocus は通常の FPV 人間動画のみから、遮蔽物体形状の復元と全手動作の再構成を行い、ロボット学習可能なデモンストレーションへ変換する。 - cross-embodiment ベースラインより軌道誤差が低く、手首動作が滑らかで、SPARC スコアは -5.18 対 -5.56 および -6.05 と優位。

3. 技術・手法の肝は?

- 遮蔽された物体ジオメトリの復元。 - 全手モーションの再構成。 - カメラ相対アライメントとレイヤードコンポジットによるヒューマノイド身体へのリターゲティング。 - 焦点の合った視覚観測と同期したロボット行動・状態をペアにしたデータセット構築。

4. どうやって有効だと検証した?

- cross-embodiment ベースラインとの比較で軌道誤差と手首動作の滑らかさを評価。 - SPARC スコアで -5.18 対 -5.56 および -6.05 を達成。 - 詳細な実験設定やデータセット規模は要旨からは不明。

5. 議論はある?

- 要旨からは不明。 - 限界、失敗事例、計算コスト、一般化性に関する議論は要旨に記載がない。

6. 次に読むべき論文は?

- cross-embodiment ベースライン(具体的名称は要旨からは不明)。 - 同分野の定番として、human-to-robot リターゲティング、egocentric video からのロボット学習、Mixed Reality 合成、hand-object occlusion 復元に関する研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Iaroslav Kolomiets, Miguel Altamirano Cabrera, Artem Lykov, Jeffrin Sam, Dmitrii Iarchuk, Yara Mahmoud, Daniia Zinniatullina, Mikhail Konenkov, Dzmitry Tsetserukou

分類: cs.RO

原文アブストラクト

Human egocentric video is a scalable supervision source for humanoid policy learning, but current pipelines struggle with hand-object occlusion, oversimplified motion, or specialized capture hardware. We introduce AgenticFocus, a Mixed Reality synthesis pipeline that converts ordinary first-person-view human videos into robot-trainable demonstrations by restoring occluded object geometry, reconstructing full-hand motion, and retargeting it to a humanoid embodiment through camera-relative alignment and layered compositing. The resulting dataset pairs focused visual observations with synchronized robot actions and states. AgenticFocus achieves lower trajectory error and smoother wrist motion than cross-embodiment baselines, with SPARC scores of -5.18 versus -5.56 and -6.05.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI