日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

世界モデルarXiv:2607.26579

コンタクトフロー:異なる身体構造間で転移可能なビデオ行動条件付け

ContactFlow: A video action conditioning that transfers across embodiments

シェア:XThreadsFacebookLINEはてブBluesky

操作における接触点の3D軌跡を行動表現として用いることで、人間のデモと異なるロボット間で共有可能な世界モデルを構築し、物理的に妥当な操作結果を予測する手法を提案した。

詳しい要約

1. どんなもの?

ContactFlowは、操作タスクにおける物理的制約(特に接触)を捉えるための、embodimentに依存しない行動表現を提案する。具体的には、actorと対象物体の間の3D接触点の軌跡として操作をエンコードする。この表現を用いて、人間のデモとロボット実行の両方から大規模ビデオ生成モデルを訓練し、物理的に妥当な操作結果を予測するworld modelを構築する。さらに、propose-imagine-verify-actパイプラインに統合し、生成されたロールアウトをvision-language modelで評価してから実行する。

2. 先行研究と比べてどこがすごい?

従来のビデオベースのworld modelは、操作を支配する物理的制約、特に接触を捉えるのが難しく、行動条件付けが特定のembodiment(例:parallel gripper)に制約されることが多かった。ContactFlowは、actor固有の外観やキネマティクスを捨て去り、3D接触点の軌跡という共通の条件付け信号を用いることで、人間のデモと異なるロボットembodiment間の転移を可能にした点が新しい。

3. 技術・手法の肝は?

手法の肝は、操作を3D接触点の軌跡として表現するembodiment-agnosticな行動表現である。この表現により、人間とロボットの両方の物体操作ビデオを同じ条件付け信号で扱える。大規模ビデオ生成モデルをこの条件付けで訓練し、物理的に妥当な操作結果を予測する。さらに、propose-imagine-verify-actパイプラインでは、生成されたロールアウトをvision-language modelで評価してから実行する。

4. どうやって有効だと検証した?

DROIDデータセットと実世界のテーブルトップ操作タスクで実験を行い、ContactFlowが人間のデモと異なるロボットembodiment間の転移を可能にすることを実証した。

5. 議論はある?

要旨からは、ContactFlowの限界や議論についての詳細は不明。ただし、embodiment-agnosticな表現が接触の物理的妥当性をどの程度正確に捉えるか、またvision-language modelによる評価の信頼性などが議論の余地があると考えられるが、要旨には明記されていない。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、ビデオベースのworld model、robot planningのためのworld model、人間デモからのロボット学習、vision-language modelによる評価などが挙げられる。具体的な論文名は要旨にないため、同分野の定番として、"Learning Latent Dynamics for Planning from Pixels"や"Video Prediction Models as General-Purpose Robots"などが考えられるが、要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Sami Azirar, Enrico Pallotta, Jan Nogga, Jürgen Gall, Sven Behnke, Hermann Blum

分類: cs.RO, cs.CV

原文アブストラクト

World models offer a promising route toward robot planning by enabling agents to imagine and verify the consequences of actions before execution. However, current video-based world models often struggle to capture the physical constraints that govern manipulation, particularly contact. Further, their action conditioning is often constrained to specific embodiments such as parallel grippers. We propose \emph{Contact Flow}, an embodiment-agnostic action representation that encodes manipulation through the trajectory of 3D contact points between an actor and a target object. By discarding actor-specific appearance and kinematics, Contact Flow provides a shared conditioning signal for both human demonstrations and robotic execution. Therefore, we can train a large-scale video generative model on both human and robotic object interaction videos conditioned on Contact Flow, yielding a world model that predicts physically plausible manipulation outcomes. We integrate this model into a propose-imagine-verify-act pipeline, where generated rollouts are assessed by a vision-language model before execution. Experiments on the DROID dataset and real-world tabletop manipulation tasks demonstrate that Contact Flow enables transfer between human demonstrations and different robotic embodiments.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI