日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

強化学習arXiv:2604.05062

GaussFly: 3Dガウス場における視覚運動ポリシーのための対比強化学習

GaussFly: Contrastive Reinforcement Learning for Visuomotor Policies in 3D Gaussian Fields

シェア:XThreadsFacebookLINEはてブBluesky

単眼視覚のみを用いた自律航空機の視覚運動ポリシー学習において、3Dガウススプラッティングによる高忠実なシミュレーション環境を構築し、対比表現学習でノイズに頑健な特徴を抽出することで、サンプル効率とsim-to-real転送を向上させるフレームワークを提案した。

詳しい要約

1. どんなもの?

- 単眼視覚のみでAutonomous Aerial Vehicles (AAVs)のvisuomotor policyを学習する枠組みGaussFlyを提案。 - real-to-sim-to-real paradigmで表現学習とpolicy最適化を明示的に分離。 - 3D Gaussian Splatting (3DGS)で訓練シーンを再構成し、contrastive representation learningでRGBから低次元latent特徴を抽出。 - そのpretrained encoderをvisuomotor policyの入力に用いる。

2. 先行研究と比べてどこがすごい?

- 既存のend-to-end学習は高次元RGBを直接actionに写像し、sample efficiencyが低くsim-to-real gapが大きい。 - GaussFlyは表現学習とpolicy最適化を分離し、photorealistic sim環境とcontrastive learningで頑健なlatent特徴を得る。 - 結果としてbaselineより優れたsample efficiencyとasymptotic performanceを達成。 - 複雑なtextureの未見実環境へのrobustかつzero-shotなpolicy transferを可能にし、sim-to-real gapを橋渡し。

3. 技術・手法の肝は?

- real-to-sim: 3D Gaussian Splatting (3DGS)にexplicit geometric constraintsを付加し高忠実度で訓練シーンを再構成。 - sim-to-real: photorealistic sim環境でcontrastive representation learningを行い、rendered RGBからcompactでnoise-resilientなlatent特徴を抽出。 - pretrained encoderで低次元特徴を入力とし、visuomotor policyの計算負荷を低減しつつ視覚ノイズ耐性を向上。

4. どうやって有効だと検証した?

- simulatedおよびreal-world環境でのextensive experimentsを実施。 - baselineと比較しsample efficiencyとasymptotic performanceが優れることを示す。 - 複雑なtextureを持つ未見実環境へのrobustかつzero-shotなpolicy transferを実証。

5. 議論はある?

- 要旨からは不明。 - 限界や失敗事例、計算コスト、3DGS再構成の品質依存性などは記述されていない。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として3D Gaussian Splatting (3DGS)、contrastive representation learning、end-to-end visuomotor policy learning、sim-to-real transferが挙げられる。 - 同分野の定番としてAutonomous Aerial Vehicles (AAVs)のvisuomotor policy学習やmonocular vision-based navigationに関する研究が考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuhang Zhang, Mingsheng Li, Yujing Shang, Zhuoyuan Yu, Chao Yan, Jiaping Xiao, Mir Feroskhan

分類: cs.RO

原文アブストラクト

Learning visuomotor policies for Autonomous Aerial Vehicles (AAVs) relying solely on monocular vision is an attractive yet highly challenging paradigm. Existing end-to-end learning approaches directly map high-dimensional RGB observations to action commands, which frequently suffer from low sample efficiency and severe sim-to-real gaps due to the visual discrepancy between simulation and physical domains. To address these long-standing challenges, we propose GaussFly, a novel framework that explicitly decouples representation learning from policy optimization through a cohesive real-to-sim-to-real paradigm. First, to achieve a high-fidelity real-to-sim transition, we reconstruct training scenes using 3D Gaussian Splatting (3DGS) augmented with explicit geometric constraints. Second, to ensure robust sim-to-real transfer, we leverage these photorealistic simulated environments and employ contrastive representation learning to extract compact, noise-resilient latent features from the rendered RGB images. By utilizing this pre-trained encoder to provide low-dimensional feature inputs, the computational burden on the visuomotor policy is significantly reduced while its resistance against visual noise is inherently enhanced. Extensive experiments in simulated and real-world environments demonstrate that GaussFly achieves superior sample efficiency and asymptotic performance compared to baselines. Crucially, it enables robust and zero-shot policy transfer to unseen real-world environments with complex textures, effectively bridging the sim-to-real gap.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI