日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

sim2realarXiv:2611.11127

祭りの映像から舞台へ:市販ヒューマノイドによる長時間表現型全身ダンスのためのSim-to-Realラダー

From Festival Video to the Stage: A Sim-to-Real Ladder for Long-Horizon Expressive Whole-Body Dance on a Commercial Humanoid

シェア:XThreadsFacebookLINEはてブBluesky

単眼動画から阿波踊りをUnitree G1で再現するパイプラインを構築し、シミュレーション学習から実機展開までの11段階の検証を通じて長時間のロープなしダンスを実現した。

詳しい要約

1. どんなもの?

- 単眼動画から取得した日本の伝統舞踊 Awa Odori を、商用ヒューマノイド Unitree G1 EDU 上で全身表現ダンスとして実行させるパイプライン。 - 構成要素は human mesh recovery、kinematic retargeting、シミュレーション内の reinforcement learning による motion tracking、ONNX 経由のオンボード展開。 - 学習は単一の RTX 5070 GPU で実施。 - ハードウェア上で評価する 11 バージョンの deployment ladder を構築し、3 つの介入を検証。 - 最終 policy は 43 秒ルーチンのロープ無し 3 連続完走、自動 handoff 付き 46 秒演技、キャプチャ運動から構成した連続 9.7 分のロープ無し演技を達成。 - ライブ handover では単一の remote request で製造元の walking controller から開始・復帰し、torque-free window は 45-140 ms。

2. 先行研究と比べてどこがすごい?

- 単眼ビデオからの伝統舞踊を商用ヒューマノイドへ転移する end-to-end パイプラインを示した点。 - 単一 GPU での学習と ONNX によるオンボード展開を組み合わせ、実機での長尺演技を実現。 - 11 バージョンの deployment ladder により、実機展開時の失敗と介入効果を体系的に評価。 - 製造元 walking controller とのライブ handover を remote request で実現し、torque-free window を計測。 - 先行研究との具体的比較は要旨からは不明。

3. 技術・手法の肝は?

- 単眼動画から human mesh recovery で人体運動を取得。 - kinematic retargeting により Unitree G1 EDU の関節空間へ変換。 - シミュレーション内で reinforcement learning による motion tracking policy を学習。 - 学習済み policy を ONNX に変換しオンボード展開。 - deployment ladder 上で、deployment artifact の silent corruption の検出・修復、学習中の state-estimator drift のモデル化、参照運動の編集による安定実行と制御された終了を実施。 - 製造元 walking controller との handover を remote request で制御。

4. どうやって有効だと検証した?

- ハードウェア上で 11 バージョンの deployment ladder を評価。 - 最終 policy が 43 秒ルーチンをロープ無しで 3 連続完走。 - 自動 handoff 付き 46 秒演技を実現。 - キャプチャ運動から構成した連続 9.7 分のロープ無し演技を達成。 - ライブ handover で製造元 walking controller から開始・復帰し、torque-free window 45-140 ms を計測。 - 学習ダイナミクスとハードウェア結果を報告。

5. 議論はある?

- compliant flooring と単眼キャプチャ時の occlusion に関する failure boundaries を議論。 - deployment artifact の silent corruption や state-estimator drift など実機展開上の問題を報告。 - 参照運動の編集が安定実行と制御された終了に寄与。 - 長尺演技の連続性や handover の torque-free window の実測値を提示。 - 一般化や他舞踊への適用可能性は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として human mesh recovery、kinematic retargeting、reinforcement learning for motion tracking、ONNX deployment の各文献を次に読むべき。 - 同分野の定番として sim-to-real transfer、humanoid motion retargeting、learning-based motion tracking の代表的論文を挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hesham Shehata

分類: cs.RO

原文アブストラクト

We present a pipeline for transferring Awa Odori, a traditional Japanese festival dance, from monocular video to a commercial Unitree G1 EDU humanoid. The pipeline combines human mesh recovery, kinematic retargeting, reinforcement learning for motion tracking in simulation, and onboard deployment via ONNX. Training ran on a single RTX 5070 GPU. An eleven-version deployment ladder evaluated on hardware examines three interventions. We detect and repair silent corruption of deployment artifacts, model state-estimator drift during training, and edit the reference motion to support stable execution and a controlled ending. The final policies achieved three consecutive rope-free completions of a 43-second routine, a 46-second performance with automatic handoff, and a continuous 9.7-minute rope-free performance composed from the captured motion. In a live handover, a single remote request let the robot start from and return to the manufacturer's walking controller on stage, with a measured torque-free window of 45-140 ms. We report the training dynamics and hardware outcomes and discuss failure boundaries involving compliant flooring and occlusion in monocular capture.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI