日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

歩行arXiv:2602.06382

見えた!:生ピクセルからのエンドツーエンドヒューマノイド歩行学習

Now You See That: Learning End-to-End Humanoid Locomotion from Raw Pixels

シェア:XThreadsFacebookLINEはてブBluesky

生の深度画像からヒューマノイドの歩行をエンドツーエンドで学習するフレームワークを提案し、高忠実度深度センサシミュレーションと視覚認識行動蒸留、地形別報酬設計により、実機での多様な地形適応を実現した。

詳しい要約

1. どんなもの?

- 視覚に基づくヒューマノイドのロコモーションを、生のピクセルからエンドツーエンドで学習するフレームワーク。 - シミュレーションから実機への転移(sim-to-real)と多様な地形への適応を同時に扱う。 - 2つのヒューマノイドプラットフォームで検証し、極端な障害物や階段の双方向長距離移動を実現。

2. 先行研究と比べてどこがすごい?

- 従来の視覚ベースロコモーションは、sim-to-realギャップによる知覚ノイズと、多地形統一ポリシー学習の目的競合に悩まされてきた。 - 本研究は、高忠実度のdepthセンサシミュレーションと視覚認識型行動蒸留により、これらの問題を緩和。 - 地形ごとの報酬設計とマルチクリティック・マルチディスクリミネータ学習を組み合わせ、多様な地形への適応を実現。

3. 技術・手法の肝は?

- ステレオマッチングのアーティファクトやキャリブレーション不確かさを再現する高忠実度depthセンサシミュレーションを開発。 - 潜在空間アラインメントとノイズ不変補助タスクを組み合わせた視覚認識型行動蒸留を提案。 - 特権的なheight mapからノイズの多いdepth観測への知識転移を可能に。 - 地形固有の報酬形成とマルチクリティック・マルチディスクリミネータ学習を導入し、各地形の動特性と運動事前分布を専用ネットワークで捉える。

4. どうやって有効だと検証した?

- 異なるステレオdepthカメラを搭載した2つのヒューマノイドプラットフォームで検証。 - 多様な環境でのロバストな性能を示し、高プラットフォームや広いギャップなどの極端な課題、および双方向長距離階段移動などの細かいタスクをシームレスに処理。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。関連手法として、sim-to-real転移、行動蒸留、マルチクリティック学習、height mapを用いたロコモーション、depthベースの視覚ロコモーションなどが挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Wandong Sun, Yongbo Su, Leoric Huang, Alex Zhang, Dwyane Wei, Mu San, Daniel Tian, Ellie Cao, Baoshi Cao, Yang Liu, Finn Yan, Ethan Xie, Zongwu Xie

分類: cs.RO

原文アブストラクト

Achieving robust vision-based humanoid locomotion remains challenging due to two fundamental issues: the sim-to-real gap introduces significant perception noise that degrades performance on fine-grained tasks, and training a unified policy across diverse terrains is hindered by conflicting learning objectives. To address these challenges, we present an end-to-end framework for vision-driven humanoid locomotion. For robust sim-to-real transfer, we develop a high-fidelity depth sensor simulation that captures stereo matching artifacts and calibration uncertainties inherent in real-world sensing. We further propose a vision-aware behavior distillation approach that combines latent space alignment with noise-invariant auxiliary tasks, enabling effective knowledge transfer from privileged height maps to noisy depth observations. For versatile terrain adaptation, we introduce terrain-specific reward shaping integrated with multi-critic and multi-discriminator learning, where dedicated networks capture the distinct dynamics and motion priors of each terrain type. We validate our approach on two humanoid platforms equipped with different stereo depth cameras. The resulting policy demonstrates robust performance across diverse environments, seamlessly handling extreme challenges such as high platforms and wide gaps, as well as fine-grained tasks including bidirectional long-term staircase traversal.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI