日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

sim2realarXiv:2510.15352

GaussGym:ピクセルから歩行を学習するためのオープンソース実世界→シミュレーション変換フレームワーク

GaussGym: An open-source real-to-sim framework for learning locomotion from pixels

シェア:XThreadsFacebookLINEはてブBluesky

3Dガウススプラッティングを物理シミュレータに組み込み、毎秒10万ステップ超の高速フォトリアルシミュレーションを実現し、実機への転移やナビゲーション性能の向上を示した。

詳しい要約

1. どんなもの?

- ロボットのlocomotion学習のためのopen-sourceなreal-to-simフレームワーク - 3D Gaussian Splattingをdrop-in rendererとしてIsaacGymなどのvectorized physics simulatorに統合 - 実世界のシーンからphotorealisticなシミュレーション環境を構築し、pixelsからの学習を可能にする - コードとデータはopen-source化予定

2. 先行研究と比べてどこがすごい?

- 従来のvectorized physics simulatorは高速だが視覚的忠実度が低い - 本手法は3D Gaussian Splattingをrendererとして組み込むことで、consumer GPU上で100,000 steps/秒超の速度と高いvisual fidelityを両立 - depth-based sensingに加え、豊富なvisual semanticsによりnavigationや意思決定(望ましくない領域の回避など)が改善 - iPhone scans、GrandTour、ARKit、Veoなどの生成videoモデル出力から数千環境を容易に構築可能

3. 技術・手法の肝は?

- 3D Gaussian Splattingをdrop-in rendererとしてvectorized physics simulator(IsaacGym)に統合 - 高速な並列シミュレーションとphotorealistic renderingを同時に実現 - 多様なソース(iPhone scans、大規模scene datasets、生成videoモデル)からreal-to-sim環境を構築 - pixelsを入力としたlocomotion学習パイプライン

4. どうやって有効だと検証した?

- 多様なタスクで高いvisual fidelityと高速性(100,000 steps/秒超)を実証 - sim-to-real robotics設定での適用可能性を実証 - depth-based sensingに加えvisual semanticsがnavigationや意思決定を改善することを示す - 詳細な定量評価手法は要旨からは不明

5. 議論はある?

- 高スループットシミュレーションと高忠実度知覚の橋渡しにより、スケーラブルで汎化可能なロボット学習を推進 - visual semanticsの重要性(望まない領域の回避など)を強調 - 限界や課題の詳細は要旨からは不明

6. 次に読むべき論文は?

- IsaacGym(vectorized physics simulator) - 3D Gaussian Splatting - GrandTour、ARKit(大規模scene datasets) - Veo(生成videoモデル) - sim-to-real robotics関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Alejandro Escontrela, Justin Kerr, Arthur Allshire, Jonas Frey, Rocky Duan, Carmelo Sferrazza, Pieter Abbeel

分類: cs.RO, cs.AI, cs.GR

原文アブストラクト

We present a novel approach for photorealistic robot simulation that integrates 3D Gaussian Splatting as a drop-in renderer within vectorized physics simulators such as IsaacGym. This enables unprecedented speed -- exceeding 100,000 steps per second on consumer GPUs -- while maintaining high visual fidelity, which we showcase across diverse tasks. We additionally demonstrate its applicability in a sim-to-real robotics setting. Beyond depth-based sensing, our results highlight how rich visual semantics improve navigation and decision-making, such as avoiding undesirable regions. We further showcase the ease of incorporating thousands of environments from iPhone scans, large-scale scene datasets (e.g., GrandTour, ARKit), and outputs from generative video models like Veo, enabling rapid creation of realistic training worlds. This work bridges high-throughput simulation and high-fidelity perception, advancing scalable and generalizable robot learning. All code and data will be open-sourced for the community to build upon. Videos, code, and data available at https://escontrela.me/gauss_gym/.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI