日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転/VLAarXiv:2605.19524

SafeAlign-VLA: リスク認識型自動運転のための負例強化安全整合フレームワーク

SafeAlign-VLA: A Negative-Enhanced Safe Alignment Framework for Risk-Aware Autonomous Driving

シェア:XThreadsFacebookLINEはてブBluesky

自動運転向けVLAモデルに負例(危険シナリオ)を活用した安全整合フレームワークを提案し、カウンターファクチュアルな軌道生成とグループ相対方策最適化により衝突率を低減した。

詳しい要約

1. どんなもの?

- 提案: SafeAlign-VLA という negative-enhanced safe alignment framework。 - 目的: end-to-end autonomous driving の safety-critical long-tail cases への対応。 - 特徴: Vision-Language-Action (VLA) モデルを基盤に、negative data を supervised learning と reinforcement learning に統合。 - 構成: counterfactual safety pairing paradigm と two-stage training strategy。 - 検証: NAVSIM と DeepAccident で評価。

2. 先行研究と比べてどこがすごい?

- 先行: 多くの VLA-based approaches は positive expert demonstrations に依存し、negative samples をほとんど活用しない。 - 課題: そのため risky behaviors や safety boundaries の理解が不十分。 - 提案: negative data を supervised learning と reinforcement learning に組み込む unified framework。 - 効果: baseline without negative data より NAVSIM v1 testset で 1.3% 改善 (89.1 PDMS)。

3. 技術・手法の肝は?

- 第一: counterfactual safety pairing paradigm により、risky scenarios から structured safety labels と counterfactual positive trajectories を生成。 - 第二: two-stage training strategy。 - negative-enhanced supervised fine-tuning で failure feedback と trajectory correction。 - anchor-based group relative policy optimization で positive/negative trajectories を contrastive anchors として sampling を誘導し、group-relative advantages で high-risk behaviors を penalize。

4. どうやって有効だと検証した?

- データセット: NAVSIM と DeepAccident。 - NAVSIM v1 testset: 89.1 PDMS を達成、negative data なし baseline より 1.3% 向上。 - DeepAccident: collision rate を 3.36% に低減、language accuracy 84.2%、risk prediction accuracy 85.8%。 - 結果: negative-enhanced safe alignment framework の有効性を実証。

5. 議論はある?

- 要旨からは不明。 - 明示的な limitation や議論は記載されていない。

6. 次に読むべき論文は?

- 要旨で参照/比較: baseline without negative data (具体的名称は要旨からは不明)。 - 関連手法: Vision-Language-Action (VLA) models、supervised fine-tuning、reinforcement learning、group relative policy optimization。 - データセット: NAVSIM、DeepAccident。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Kefei Tian, Yuansheng Lian, Kai Yang, Xiangdong Chen, Shen Li

分類: cs.RO, cs.CV

原文アブストラクト

End-to-end autonomous driving systems excel in common scenarios but struggle with safety-critical long-tail cases. Vision-Language-Action (VLA) models are promising due to their strong reasoning capabilities. However, most VLA-based approaches rely on positive expert demonstrations, rarely exploiting negative samples, leading to insufficient understanding of risky behaviors and safety boundaries. To address this limitation, we propose SafeAlign-VLA, a unified negative-enhanced safe alignment framework that incorporates negative data into supervised learning and reinforcement learning. First, we develop a counterfactual safety pairing paradigm to generate structured safety labels and counterfactual positive trajectories from risky scenarios via counterfactual reasoning. Then, a two-stage training strategy is adopted: negative-enhanced supervised fine-tuning for failure feedback and trajectory correction, followed by anchor-based group relative policy optimization that uses positive and negative trajectories as contrastive anchors to steer sampling and penalize high-risk behaviors via group-relative advantages. Experiments on NAVSIM and DeepAccident validate the proposed framework. SafeAlign-VLA achieves 89.1 PDMS on the NAVSIM v1 testset, improving over the baseline without negative data by 1.3%. On DeepAccident, it reduces the collision rate to 3.36%, while achieving 84.2% language accuracy and 85.8% risk prediction accuracy. These results demonstrate the effectiveness of the proposed negative-enhanced safe alignment framework for safe and robust autonomous driving.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI