日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

移動操作arXiv:2607.26460

RLMM-Flow: 潜在空間強化学習を用いたフローベース移動操作フレームワーク

RLMM-Flow: A Flow-based Mobile Manipulation Framework with Latent-Space Reinforcement Learning

シェア:XThreadsFacebookLINEはてブBluesky

移動操作ロボットの全身動作生成を、専門家デモからのフローポリシー事前学習と潜在空間での強化学習後調整を組み合わせて改善するフレームワークを提案した。

詳しい要約

1. どんなもの?

RLMM-Flowは、モバイルマニピュレーションのためのフローベースのフレームワークであり、専門家のデモンストレーションから学習したフローポリシーを事前学習し、その後、潜在空間での強化学習(RL)によりポリシーを改善する。全身のアクションチャンクを生成し、目標到達、衝突回避、ベースの運動学的制約、マニピュレータの関節限界、軌道の滑らかさを同時に満たすことを目指す。

2. 先行研究と比べてどこがすごい?

既存のフローベース生成ポリシーは模倣学習のみに依存しており、デモンストレーション分布を超えてポリシー品質を改善できない。RLMM-Flowは、事前学習したフローポリシーを凍結し、潜在空間でRLによる後学習を導入することで、デモンストレーションの分布を超えた改善を可能にする。また、高次元の潜在最適化を安定させるためのアクション空間クリティックのウォームアップや、粗密な潜在ステアリングを導入している点が新しい。

3. 技術・手法の肝は?

手法の核は、(1) 専門家デモからマルチモーダルな全身動作事前分布を学習するフローポリシーの事前学習、(2) 事前学習済みフローポリシーを凍結し、潜在ステアリングネットワークが初期ノイズを高価値のアクションチャンクへ向ける、(3) 高次元潜在最適化を安定させるため、アクション空間クリティックをウォームアップしてから潜在クリティックと潜在アクターを共同学習する、(4) 粗密潜在ステアリングにより、ホライズン共有の潜在表現から完全次元の残差表現へと制御を段階的に拡張する、の4点。

4. どうやって有効だと検証した?

モバイルマニピュレーションのモーションプランニングベンチマークを用いて、模倣学習のみのフローポリシーや既存のRL後学習ベースラインと比較し、タスク成功率、衝突回避、軌道品質を大幅に改善することを示した。また、フローベースの高速推論を維持していることも確認した。

5. 議論はある?

要旨からは、潜在空間でのRLがデモ分布を超える改善をもたらす一方で、潜在空間の設計や粗密ステアリングの収束性、実機での性能などに関する議論は不明。また、フローポリシーの事前学習がデモの質に依存する可能性や、RL後学習のサンプル効率についての詳細も要旨からは不明。

6. 次に読むべき論文は?

要旨で参照されている研究は明示されていないが、関連する分野として、フローベース生成ポリシー(例:Flow Matching)、モバイルマニピュレーションのモーションプランニング、強化学習による後学習(例:RL fine-tuning)などが挙げられる。具体的には、'Flow Matching for Generative Modeling'や'Diffusion Policy'、'Reinforcement Learning for Mobile Manipulation'などの論文が関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Shuhang Wang, Ziming Li, Hui Cheng

分類: cs.RO

原文アブストラクト

Mobile manipulation requires generating whole-body action chunks that jointly satisfy goal reaching, collision avoidance, base kinematic constraints, manipulator joint limits, and trajectory smoothness. Flow-based generative policies provide an efficient paradigm for learning multimodal and temporally consistent motion priors from expert demonstrations, but imitation-only training cannot improve policy quality beyond the demonstration distribution. We propose RLMM-Flow, a flow-based mobile manipulation framework that combines expert flow-policy pretraining with latent-space reinforcement learning post-training. The framework first learns a flow policy that captures a multimodal whole-body motion prior from expert demonstrations. The pretrained flow policy is then frozen, while a latent steering network steers its initial noise toward higher-value action chunks. To stabilize high-dimensional latent optimization, we warm up an action-space critic before jointly training the latent critic and latent actor, and introduce coarse-to-fine latent steering that progressively expands control from a horizon-shared latent representation to a full-dimensional residual representation. Experiments on mobile manipulation motion-planning benchmarks show that RLMM-Flow substantially improves task success, collision avoidance, and trajectory quality over imitation-only flow policies and existing reinforcement learning post-training baselines, while preserving fast flow-based inference.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI