フェーズ条件付き方策最適化による多段階ロコマニピュレーションの学習
Learning Multi-Phase Robot Loco-Manipulation via Phase-Conditioned Policy Optimization
PPOをフェーズ条件付きクリティックとフェーズ別報酬で拡張し、Unitree G1やSpot+アームなど異なるハードウェアで長期的な全身ロコマニピュレーションを単一方策で学習させた。
詳しい要約
1. どんなもの?
2. 先行研究と比べてどこがすごい?
3. 技術・手法の肝は?
4. どうやって有効だと検証した?
5. 議論はある?
6. 次に読むべき論文は?
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Simone Manni, Annika Wollschläger, Dario Bellicoso, Abel Gawel, Marco Hutter, Simon Le Cleac'h, Jan Brüdigam
分類: cs.RO
原文アブストラクト
Complex whole-body loco-manipulation requires executing diverse maneuvers, such as crouching, grasping, and locomotion, within a single long-horizon task. While performing simple pick-and-place behaviors is well-established, scaling to complex, long-horizon tasks remains difficult. Currently, this challenge is addressed by relying on human motion data and correspondingly humanoid platforms, which limits platform independence and introduces substantial data processing overhead. Instead, we extend proximal policy optimization (PPO) to train a single policy for multi-phase tasks across diverse robotic hardware, leveraging prior task structure to shape behavior. Our method adapts PPO using a phase-conditioned critic, phase-gated reward functions, and a multi-phase reset curriculum to guide exploration. To support varied hardware, we employ a decoupled hierarchical control architecture that separates lower-level balancing dynamics from high-level phase execution. We demonstrate multi-stage loco-manipulation skills on hardware on both the Unitree G1 and a Boston Dynamics Spot equipped with a manipulator arm, and validate our design choices through ablations. Our approach enables the acquisition of complex loco-manipulation behaviors purely through environment interaction while directly incorporating high-level task structure into policy learning.
関連論文
- 四足ロボットのラストマイル把持ナビゲーションのための統合方策学習モデルロコマニピュレーション
- 凍結した歩行ポリシー下での異種歩行ダイナミクスのオンライン学習による高精度ロコマニピュレーションロコマニピュレーション
- ヒューマノイドの地平線:並列訓練・動的開始・報酬ゲーティングによる全身ロコマニピュレーションのタスク時間拡張ロコマニピュレーション
- HULK: ヒューマノイドの全身力強いロコマニピュレーション学習ロコマニピュレーション
- 接触を決定変数とする:脚式ロコマニピュレーションのための能力トレードオフ接触選択ロコマニピュレーション
- HOTICE: 混雑環境における全身ヒューマノイド物体搬送ロコマニピュレーション
