日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ロコマニピュレーションarXiv:2512.04381

FALCON: 基盤モデルで協調する移動と操作の分離型視覚運動ポリシー

FALCON: Actively Decoupled Visuomotor Policies for Loco-Manipulation with Foundation-Model-Based Coordination

シェア:XThreadsFacebookLINEはてブBluesky

移動と操作を別々の拡散ポリシーに分離し、視覚言語基盤モデルで両者を協調させるロコマニピュレーション手法を提案。段階推定ヘッドと協調認識コントラスト損失で性能と汎化性を向上させた。

詳しい要約

1. どんなもの?

- ロコマニピュレーション(移動と操作の統合)のためのフレームワーク FALCON を提案。 - 移動(locomotion)と操作(manipulation)を明示的に分離した2つの diffusion policy と、視覚言語基盤モデルをコーディネータとして組み合わせる。 - 各サブシステムは自身の観測のみに依存し、異種で不一致な観測の融合による性能劣化を緩和する。 - 基盤モデルが全体観測と言語指示を共有潜在埋め込みに符号化し、両 diffusion policy を条件付ける。 - phase-progress head により手動ラベルなしで離散フェーズと連続進捗を推定。 - 調整対応の contrastive loss で腕とベースの行動間の相互互換性を潜在空間に構造化。

2. 先行研究と比べてどこがすごい?

- 単一の集中型ポリシーで移動と操作の異種観測を融合する従来手法に対し、分離型ポリシーで性能劣化を回避。 - 分離型ベースラインと比べ、視覚言語基盤モデルによる調整回復が特徴。 - 手動フェーズラベルを必要とせず、テキスト記述からフェーズと進捗を推定する点が新しい。 - 集中型・分散型ベースラインを上回り、分布外シナリオへのロバスト性と汎化も向上。

3. 技術・手法の肝は?

- 移動と操作をそれぞれ専用の diffusion policy として分離。 - 視覚言語基盤モデルが全体観測と言語指示を共有潜在埋め込みに符号化し、両ポリシーを条件付け。 - phase-progress head がタスク段階のテキスト記述を用いて離散フェーズと連続進捗を推定(手動ラベル不要)。 - coordination-aware contrastive loss で腕とベースの行動間の相互互換性を潜在空間に明示的に符号化。

4. どうやって有効だと検証した?

- ナビゲーション、精密なエンドエフェクタ配置、厳密なベース・アーム協調を要する2つの難タスクで評価。 - 集中型および分散型ベースラインを上回る結果。 - 分布外シナリオへのロバスト性と汎化の改善を示す。

5. 議論はある?

- 要旨からは不明(限界や失敗事例、計算コスト、実機展開の議論は記載なし)。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として diffusion policy、vision-language foundation model、loco-manipulation の集中型/分散型ベースラインが挙げられる。 - 同分野の定番として、移動と操作を統合する強化学習・模倣学習ベースの loco-manipulation 研究を読むとよい。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Chengyang He, Ge Sun, Yue Bai, Junkai Lu, Jiadong Zhao, Guillaume Sartoretti

分類: cs.RO

原文アブストラクト

We present FoundAtion-model-guided decoupled LoCO-maNipulation visuomotor policies (FALCON), a framework for loco-manipulation that combines modular diffusion policies with a vision-language foundation model as the coordinator. Our approach explicitly decouples locomotion and manipulation into two specialized visuomotor policies, allowing each subsystem to rely on its own observations. This mitigates the performance degradation that arise when a single policy is forced to fuse heterogeneous, potentially mismatched observations from locomotion and manipulation. Our key innovation lies in restoring coordination between these two independent policies through a vision-language foundation model, which encodes global observations and language instructions into a shared latent embedding conditioning both diffusion policies. On top of this backbone, we introduce a phase-progress head that uses textual descriptions of task stages to infer discrete phase and continuous progress estimates without manual phase labels. To further structure the latent space, we incorporate a coordination-aware contrastive loss that explicitly encodes cross-subsystem compatibility between arm and base actions. We evaluate FALCON on two challenging loco-manipulation tasks requiring navigation, precise end-effector placement, and tight base-arm coordination. Results show that it surpasses centralized and decentralized baselines while exhibiting improved robustness and generalization to out-of-distribution scenarios.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI