日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ヒューマノイド/強化学習arXiv:2509.21690

PACE: 物理拡張による協調的エンドツーエンド強化学習で多様なヒューマノイド卓球を実現

PACE: Physics Augmentation for Coordinated End-to-end Reinforcement Learning toward Versatile Humanoid Table Tennis

シェア:XThreadsFacebookLINEはてブBluesky

ボール位置から全身の関節指令を直接出力する強化学習フレームワークを提案し、学習済み予測器と物理ベースの予測報酬でヒューマノイドの卓球を実現、実機でゼロショット展開した。

詳しい要約

1. どんなもの?

ヒューマノイドによる卓球(table tennis, TT)のための強化学習(RL)フレームワーク「PACE」を提案する研究。ボール位置の観測から全身の関節指令へ直接マッピングするend-to-end制御ポリシーを学習し、腕による打球と脚による移動(locomotion)を統合する。予測信号と物理に基づく密な報酬で強化し、シミュレーションで高い打球率・成功率を達成、実機Booster T1(23 revolute joints)へzero-shot展開した。

2. 先行研究と比べてどこがすごい?

- end-to-end制御ポリシーでは、速い知覚・先行的な全身運動・厳しいタイミング下の機敏なfootworkが困難とされる - 本研究は腕の打球と脚のlocomotionを単一のend-to-endポリシーで協調させる点を狙う - 学習済みpredictorによる観測拡張と、物理ベースpredictorによる密報酬設計を組み合わせる - 具体的な先行研究名との比較は要旨からは不明

3. 技術・手法の肝は?

- ボール位置観測を全身関節コマンドへ直接写像するRLポリシー(arm strikingとleg locomotionを統合) - 直近のボール位置を入力とする軽量な学習済みpredictorが将来のボール状態を推定し、ポリシー観測を拡張して先行的意思決定を支援 - 訓練時には物理ベースpredictorが正確な将来状態を供給し、密で情報量の多い報酬を構成して効率的な探索を促す - 予測信号と物理誘導報酬を組み合わせた学習設計が肝

4. どうやって有効だと検証した?

- シミュレーションで多様なserve範囲に対しhit rate≥96%、success rate≥92%を達成 - ablation studiesにより、学習済みpredictorと予測報酬設計の両方がend-to-end学習に不可欠と確認 - 23 revolute jointsの実機Booster T1へzero-shot展開し、協調的な左右・前後のfootworkと正確で速い返球を確認

5. 議論はある?

- 実機zero-shot展開で協調footworkと高速返球が得られ、汎用的で競技可能なhumanoid TTへの実用的道筋を示唆 - 性能評価は主にシミュレーションのserve範囲でのhit rate/success rateであり、実機での定量評価や対戦相手・多様条件での検証は要旨からは不明 - 学習済みpredictorと物理報酬への依存性がablationで示され、両者の設計が重要という議論

6. 次に読むべき論文は?

- 要旨で参照/比較されている個別研究は明示されていない - 関連手法として、humanoid table tennisのend-to-end RL、学習済みpredictorによる観測拡張、physics-guided reward設計、sim-to-real zero-shot転移に関する研究を次に読むべき - 公開コード: https://github.com/purdue-tracelab/TTRL-ICRA2026

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Muqun Hu, Wenxi Chen, Wenjing Li, Falak Mandali, Zijian He, Renhong Zhang, Praveen Krisna, Katherine Christian, Leo Benaharon, Dizhi Ma, Karthik Ramani, Yan Gu

分類: cs.RO

原文アブストラクト

Humanoid table tennis (TT) demands rapid perception, proactive whole-body motion, and agile footwork under strict timing--capabilities that remain difficult for end-to-end control policies. We propose a reinforcement learning (RL) framework that maps ball-position observations directly to whole-body joint commands for both arm striking and leg locomotion, strengthened by predictive signals and dense, physics-guided rewards. A lightweight learned predictor, fed with recent ball positions, estimates future ball states and augments the policy's observations for proactive decision-making. During training, a physics-based predictor supplies precise future states to construct dense, informative rewards that lead to effective exploration. The resulting policy attains strong performance across varied serve ranges (hit rate$\geq$96% and success rate$\geq$92%) in simulations. Ablation studies confirm that both the learned predictor and the predictive reward design are critical for end-to-end learning. Deployed zero-shot on a physical Booster T1 humanoid with 23 revolute joints, the policy produces coordinated lateral and forward-backward footwork with accurate, fast returns, suggesting a practical path toward versatile, competitive humanoid TT. We have open-sourced our RL training code at: https://github.com/purdue-tracelab/TTRL-ICRA2026

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI