日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ナビゲーション/VLAarXiv:2606.18426

VEGA: 実世界の自己中心視点ビデオと幾何学的軌道監視によるナビゲーションVLAの学習

VEGA: Learning Navigation VLAs from In-the-Wild Egocentric Video with Geometric Trajectory Supervision

シェア:XThreadsFacebookLINEはてブBluesky

未ラベルの自己中心視点ナビゲーションビデオから、幾何学的軌道監視を用いて障害物回避可能なナビゲーションVLAモデルを訓練する手法を提案。

詳しい要約

1. どんなもの?

- 一人称視点のナビゲーション動画からNavigation VLAモデルを学習するVEGAを提案。 - ラベルなしのEgocentric Videoを活用し、単眼動画から局所的なScene Geometryを再構成。 - テキスト・画像・空間WaypointとしてGoalをサンプリングし、障害物を考慮したTrajectoryを生成。 - 生成したTrajectory分布でFlow-Matching VLAナビゲーションPolicyを訓練。 - 評価用にVEGA-Bench(250k Scene、約5M Goal、Scene Geometry付き)を導入。

2. 先行研究と比べてどこがすごい?

- インターネット規模のEgocentric Videoはスケーラブルな観測源だが、ロボット座標系でのGoal条件付き障害物回避TrajectoryがなくPolicy学習に直接使えなかった。 - VEGAは単眼動画からGeometryを再構成し、Goal条件付きの障害物考慮Trajectoryを生成することでこのギャップを埋める。 - Geometryを訓練時のみ使用し、Vision-based Policyに障害物考慮Planningを蒸留する点が新しい。 - 最強Baseline比でCollisionを33.0%削減、Obstacle Clearanceを17.9%改善。 - 実世界試験ではSuccessを150.0%以上改善、Collisionを66.7%以上削減、Obstacle Clearanceを60.0%以上改善。

3. 技術・手法の肝は?

- 単眼Egocentric Videoから局所Scene Geometryを再構成。 - 再構成したGeometry上でNavigation Goal(Text/Image/Spatial Waypoint)をサンプリング。 - Geometryを用いて障害物を考慮したTrajectoryを生成し、Trajectory分布を構築。 - その分布でFlow-Matching VLAナビゲーションPolicyを訓練。 - Geometryは訓練時のみ使用し、推論時はVisionのみで障害物考慮Planningを蒸留。

4. どうやって有効だと検証した?

- VEGA-Benchを構築し、250k Sceneと約5M Navigation GoalをScene Geometryとペアで用意。 - VEGA-BenchでGoal Progress、Collision Avoidance、Obstacle Clearanceを評価。 - 最強Baseline比でGoal Progressは競争力があり、Collisionを33.0%削減、Obstacle Clearanceを17.9%改善。 - 実世界試験でSuccessを150.0%以上改善、Collisionを66.7%以上削減、Obstacle Clearanceを60.0%以上改善。

5. 議論はある?

- 動画由来のGeometric Supervisionが障害物考慮Navigation VLAのスケーラブルで効果的な学習信号であることを示す。 - 訓練時のみGeometryを使い、Vision-based PolicyにPlanningを蒸留する設計の有効性を主張。 - 限界や失敗事例、計算コスト、Geometry再構成誤差の影響などは要旨からは不明。 - コードとBenchmarkは出版時に公開予定。

6. 次に読むべき論文は?

- VEGA-Bench(本論文で導入) - Flow-Matching VLAナビゲーションPolicy(関連手法) - Egocentric Videoを用いたナビゲーション学習(関連研究) - 単眼動画からのScene Geometry再構成(関連技術) - 要旨で参照/比較されている個別の先行研究名は明記されていないため、同分野の定番としてVision-Language-Action Navigation、Egocentric Video Learning、Obstacle-Aware Navigationを挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Gershom Seneviratne, Yohan Abeysinghe, Jianyu An, Vaibhav Shende, Rahul Kumar, Dinesh Manocha

分類: cs.RO

原文アブストラクト

We introduce VEGA, an approach for training navigation VisionLanguage-Action (VLA) models from unlabeled egocentric navigation videos. Internet-scale egocentric videos provide a scalable source of navigation-relevant visual observations, capturing cluttered scenes, close-range obstacles, and natural human motion through real-world spaces. However, these videos are not directly usable for policy learning because they do not provide obstacle-aware trajectories conditioned on explicit navigation goals in the robot's coordinate frame. VEGA addresses this gap by reconstructing local scene geometry from monocular video, sampling navigation goals (represented as text, image, or spatial waypoints) and generating obstacle-aware trajectories using the constructed geometry. The resulting trajectory distribution is then used to train a flow-matching VLA navigation policy. By using geometry exclusively during training, VEGA distills obstacle-aware planning directly into a vision-based policy. Furthermore, we introduce VEGA-Bench, a benchmark containing 250k scenes and approximately 5 million navigation goals paired with scene geometry, designed to evaluate goal progress, collision avoidance, and obstacle clearance of VLAs. Our evaluation shows that VEGA achieves competitive goal progress while reducing collisions by 33.0% and improving obstacle clearance by 17.9% over the strongest baseline on VEGABench, while improving success by at least 150.0%, reducing collisions by at least 66.7%, and improving obstacle clearance by at least 60.0% in real-world trials. Ultimately, we demonstrate that video-derived geometric supervision provides a scalable and effective signal for training obstacle-aware navigation VLAs. The code and benchmark will be released at the time of publication.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI