日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

歩行arXiv:2606.10288

MARCH: モデル支援強化学習による疎な足場上のヒューマノイドの知覚制御

MARCH: Model-Assisted Reinforcement Learning for the Perceptive Control of Humanoids over Sparse Footholds

シェア:XThreadsFacebookLINEはてブBluesky

モデルベース手法とモデルフリー強化学習を組み合わせ、安全な参照軌道とCLF報酬を用いて教師ポリシーを訓練し、視覚ベースの学生ポリシーへ蒸留することで、疎な足場上の二足歩行を実現する。

詳しい要約

1. どんなもの?

- 疎な足場(sparse footholds)上での知覚的二足歩行制御のための新しい強化学習フレームワーク「MARCH」を提案。 - モデルベース手法の精度とモデルフリー手法のロバスト性を組み合わせ、安全な参照軌道生成、CLF報酬による教師ポリシー訓練、視覚ベース学生ポリシーへの蒸留の3段階からなる。 - シミュレーションで検証し、Unitree G1ヒューマノイドロボットで横方向の制約がある疎な足場のナビゲーションに成功。

2. 先行研究と比べてどこがすごい?

- モデルベース手法は正確だが不確実性に脆く、モデルフリー手法はロバストだが安全クリティカルな歩行に必要な精密で制約された動作の発見が困難。 - 提案手法はモデル支援により、物理的に根拠のある歩行を生成し、サンプル効率を改善、複雑な学習カリキュラムの必要性を低減、より滑らかな歩行を実現。 - ステッピングストーン性能はモデルフリーベースラインと同等。

3. 技術・手法の肝は?

- 3段階のアプローチ:(1) 簡略化モデルを用いて安全な参照軌道を生成、(2) 安全参照軌道に基づく制御Lyapunov関数(CLF)報酬で導かれる特権教師ポリシーを訓練、(3) 教師を視覚ベース学生ポリシーに蒸留。 - モデル支援により、物理的に根拠のある歩行を実現し、サンプル効率を向上。

4. どうやって有効だと検証した?

- シミュレーションで検証し、Unitree G1ヒューマノイドロボットで横方向の制約がある疎な足場のナビゲーションに成功。 - モデルフリーベースラインと比較して、ステッピングストーン性能が同等であることを確認。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究:モデルベース手法、モデルフリー手法、制御Lyapunov関数(CLF)報酬、特権教師ポリシー、視覚ベース学生ポリシー、Unitree G1ヒューマノイドロボット。 - 関連手法:強化学習(RL)、教師-学生蒸留、疎な足場歩行。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Codrin Crismariu, Ryan K. Cosner

分類: cs.RO

原文アブストラクト

Perceptive bipedal locomotion over sparse terrain remains a difficult challenge: model-based methods are precise but brittle to uncertainty, while model-free methods are robust but struggle to discover the precise, constrained motions required for safety-critical locomotion where small errors can cause catastrophic failures. We propose a model-assisted reinforcement learning (RL) framework that combines both perspectives in three steps: (1) generate a safe reference trajectory using simplified models; (2) train a privileged teacher policy guided by a control Lyapunov function (CLF) reward built around the safe reference trajectory; and (3) distill the teacher into a vision-based student policy. We show that this model-assistance procedure produces physically grounded locomotion, improving sample efficiency, reducing the need for a complex learning curriculum, and achieving smoother locomotion behavior alongside stepping stone performance comparable to model-free baselines. We validate our approach in simulation and demonstrate successful deployment on a Unitree G1 humanoid robot navigating sparse footholds with lateral constraints.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI