いつ、どの程度深刻に:運転VLAのためのシナリオ別安全エンベロープ
When and How Severely: Scenario-Specific Safety Envelopes for Driving VLAs
運転用VLAプランナーの安全認証に向け、シナリオ別に失敗開始点と深刻度を評価し、単一の集約値では不十分で2次元の安全エンベロープが必要であることを示した。
詳しい要約
1. どんなもの?
2. 先行研究と比べてどこがすごい?
3. 技術・手法の肝は?
4. どうやって有効だと検証した?
5. 議論はある?
6. 次に読むべき論文は?
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Abhinaw Priyadershi, Jelena Frtunikj
分類: cs.RO, cs.AI
原文アブストラクト
Safety certification of Vision-Language-Action (VLA) driving planners under ISO 21448 (SOTIF) rests on an Operational Design Domain (ODD) specification that answers two complementary questions: when does the planner start to fail, and how severely does it fail once it does? We evaluate Alpamayo R1, a 10B-parameter open-weight driving VLA, on 15,968 (clip, attack) pairs. We find a conservative-aggregate gap: an aggregate safe threshold of $\sigma \leq 50$ under a 15% average displacement error (ADE) budget masks well-sampled scenarios that tolerate the top of the tested grid ($\sigma = 70$). A Gaussian Mixture Model (GMM) on the changed-explanation subset identifies six discrete severity bands (BIC-optimal $k{=}6$), so two perturbation conditions with the same mean error can differ materially in their share of high-severity (C4/C5) failures. Joining the two analyses on the same corpus surfaces a finding neither yields in isolation: the scenarios with the loosest noise thresholds are not those with the lowest high-severity rate: STOP_SIGNAL concentrates roughly $4\times$ the C4/C5 share of LANE_KEEPING despite tolerating a larger $\sigma$. A deployable SOTIF ODD specification for driving VLAs therefore requires a two-dimensional safety envelope, not a single aggregate value per hazard.
関連論文
- EgoSafetyBench:具身VLMをランタイム安全監視役として評価する診断用エゴセントリック動画ベンチマークVLA/安全性評価
- SafeVLA-Bench: 視覚言語行動モデルにおける成功と安全性のギャップを評価するベンチマークVLA/安全性評価
- LIBERO-Safety: 視覚言語行動モデルにおける物理的・意味的安全性の包括的ベンチマークVLA/安全性評価
- ForesightSafety-VLA: 視覚・言語・行動モデルのための統合診断安全ベンチマークVLA/安全性評価
- 視覚言語モデルにおける衝突接地の探求:安全な人間ロボット協調のためにVLA/安全性評価
- HazardArena: 視覚言語行動モデルにおける意味的安全性の評価VLA/安全性評価
