日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2609.39178

視覚言語行動モデルへの普遍的敵対攻撃:ロボット操作における脆弱性の悪用

Exploiting Vulnerabilities: Universal Adversarial Attacks on Vision-Language-Action Models in Robotics

シェア:XThreadsFacebookLINEはてブBluesky

ロボットの視界に置くだけでタスク成功率を大幅に下げる最適化された表面テクスチャを持つ球体を提案し、VLAモデルの軌道計画・実行・制御を同時に妨害する攻撃を実機とシミュレーションで検証した。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルに対するセキュリティ脆弱性を突く研究。 - ロボットの視野内に置くだけでタスク成功率を大幅に低下させる「Universal Adversarial Object」を提案。 - 表面テクスチャを最適化した球体で、軌道計画・タスク実行・行動制御を同時に妨害する。 - シミュレーションと実世界の両方で検証し、Pi0とRDTの2つのVLAモデルで平均成功率を31.2%~39.9%低下させた。 - 複雑なシナリオでは成功率がほぼゼロになることを示した。

2. 先行研究と比べてどこがすごい?

- 従来の敵対的攻撃は主に画像分類や単一モダリティを対象としていたが、本研究はVLAモデル全体を標的にしている。 - 物理世界で機能するUniversal Adversarial Objectを提案し、実ロボット環境での有効性を実証。 - マルチレベル攻撃フレームワークにより、軌道計画・タスク実行・行動制御を統合的に妨害する点が新しい。 - 特定のタスクやモデルに依存せず、複数のVLAモデル(Pi0, RDT)で有効性を確認。

3. 技術・手法の肝は?

- 表面テクスチャを最適化した球体(Universal Adversarial Object)を設計。 - マルチレベル攻撃フレームワークを導入し、以下の3つを同時に妨害: - 軌道計画(trajectory planning) - タスク実行(task execution) - 行動制御(action control) - 最適化手法の詳細は要旨からは不明。 - 攻撃はロボットの視野内にオブジェクトを置くだけで実行可能。

4. どうやって有効だと検証した?

- シミュレーション環境と実世界のロボット設定の両方で検証。 - 2つの代表的なVLAモデル(Pi0とRDT)に対して実験。 - 平均タスク成功率が31.2%~39.9%低下することを確認。 - 複雑なシナリオでは成功率がほぼゼロになることを示した。

5. 議論はある?

- VLAモデルのセキュリティ脆弱性が物理世界に深刻な影響を与える可能性を指摘。 - 小さな脆弱性でも壊滅的な失敗につながることを強調。 - 防御策や倫理的影響に関する議論は要旨からは不明。

6. 次に読むべき論文は?

- Pi0: 本研究で攻撃対象となったVLAモデルの一つ。 - RDT: 同様に攻撃対象となったVLAモデル。 - 関連手法として、Vision-Language-Action models、adversarial attack、robotic securityの分野の論文が挙げられる。 - 具体的な論文名は要旨に記載なし。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Songhua Yang, Ziyu Liu, Yuanwei Liu, Xuetao Li, Xuanye Fei, He Huang, Zheng Wang, Miao Li

分類: cs.RO, cs.CR, cs.CV

原文アブストラクト

Recently, Vision-Language-Action (VLA) models have revolutionized robotic manipulation by seamlessly integrating visual perception, language understanding, and action generation in an end-to-end learning framework. However, since these models are designed to interact directly with the physical world and humans, their security is critical, and even small vulnerabilities can lead to catastrophic failures. In this work, we propose the Universal Adversarial Object, a sphere with optimized surface texture that significantly degrades task success rates when placed within the robot's field of view. Specifically, our approach introduces a multi-level attack framework that jointly disrupts trajectory planning, task execution, and action control. We validate our method in both simulated and real-world robotic settings. Experimental results demonstrate that the adversarial object reduces the average task success rates by 31.2%-39.9% for two representative VLA models (Pi0 and RDT), with success rates dropping to near zero in complex scenarios. Index Terms--Vision-Language-Action models, adversarial attack, robotic security, universal adversarial object

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI