日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2609.32550

Vision-Language-Actionモデルは一歩の観測摂動に頑健か?

Are Vision-Language-Action Models Robust to One-Step Observation Perturbations?

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルに対する一時的な観測ノイズの影響を調査し、予測アクションの一貫性に基づいて実行長を動的に調整するCAREを提案した研究。

詳しい要約

1. どんなもの?

- 本論文は、Vision-Language-Action (VLA) モデルに対する安全性リスクの一つとして、エピソード内の単一時間ステップのみに適用される一時的な観測摂動(one-step perturbation)へのロバスト性を調査したものである。 - 既存研究が持続的な摂動を主に扱ってきたのに対し、瞬間的な観測汚染がVLA性能を大幅に低下させることを実験的に示している。 - さらに、その影響がaction chunkの実行長に依存することを明らかにし、摂動時のみ実行長を短縮するCAREを提案している。

2. 先行研究と比べてどこがすごい?

- 従来の安全性研究は、エピソード全体にわたって継続的に適用される持続的摂動を主な対象としてきた。 - これに対し、本論文はエピソード内の単一ステップのみに適用される一時的摂動という、未探索の脅威に焦点を当てている点が新しい。 - また、action chunkの実行長がロバスト性に与える影響を明らかにし、動的に実行長を選択するCAREを提案することで、計算オーバーヘッドを抑えつつクリーン性能を維持する点が先行研究と異なる。

3. 技術・手法の肝は?

- 単一時間ステップで観測に摂動を加える実験設定を構築し、VLAモデルの性能劣化を評価。 - 摂動の影響がaction chunkの実行長に依存することを分析。 - 提案手法CAREは、以前に予測されたaction chunkとの一貫性に基づいて実行長を動的に選択する。 - 摂動が検出された場合にのみ実行長を短縮することで、ロバスト性を向上させつつ、クリーンな状況では性能を維持し、計算コストも低く抑える。

4. どうやって有効だと検証した?

- 実験により、one-step perturbationがVLA性能を大幅に低下させることを示した。 - また、その影響がaction chunkの実行長に依存することを明らかにした。 - CAREがロバスト性を改善し、低計算オーバーヘッドでクリーン性能を維持することを検証した。 - 具体的なデータセットやベンチマーク、評価指標は要旨からは不明。

5. 議論はある?

- 一時的な観測摂動がVLAモデルの安全性に対する新たな脅威であることを指摘。 - action chunkの実行長がロバスト性に影響を与えることを議論。 - CAREの有効性と計算効率のバランスについて言及。 - 限界や今後の課題については要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、Vision-Language-Action (VLA) モデル、action chunking、持続的摂動に対するロバスト性研究が挙げられる。 - 同分野の定番として、RT-1、RT-2、OpenVLAなどのVLAモデルや、ロボティクスにおける敵対的摂動に関する研究が次に読むべき論文として考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Shojiro Yamabe, Jun Sakuma

分類: cs.AI, cs.LG, cs.RO

原文アブストラクト

Understanding the safety risks of vision-language-action (VLA) models is essential for their deployment in the physical world. Existing safety research has mainly considered persistent perturbations that are applied continuously to observations throughout an episode. However, momentary observation corruption, in which observations are severely perturbed only briefly within an episode, remains an underexplored safety threat. To address this gap, this work investigates robustness to one-step perturbations applied at a single time step per episode. Our experiments reveal that these perturbations substantially degrade VLA performance and that their impact depends on the action chunk execution length. Based on them, we propose CARE, which dynamically selects the execution length based on consistency with the previously predicted action chunk. CARE improves robustness with low computational overhead while preserving clean performance by selecting shorter execution lengths only under perturbations.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI