日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLA/敵対的攻撃arXiv:2608.10393

見えざる脅威:拡散モデルによる視覚言語行動モデルへの無制限ロボット攻撃

Hidden in Plain Sight: Diffusion-Based Unrestricted Robotic Attacks on Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

拡散モデルを用いて視覚的に自然な敵対的パッチを生成し、VLAモデルのロボット制御を攻撃する手法を提案。ホワイトボックスとブラックボックスの両設定で有効で、シミュレーションと実世界で既存手法を上回る性能を示した。

詳しい要約

1. どんなもの?

DURAは、Vision-Language-Action (VLA)モデルに対する拡散ベースの非制限型ロボット攻撃手法を提案する研究。視覚的に自然な敵対的パッチを生成し、ロボットの動作を攻撃者が指定した目標行動へ誘導する。ホワイトボックスとブラックボックスの両設定に対応し、ブラックボックスでは被害モデルの予測行動のみを必要とする。

2. 先行研究と比べてどこがすごい?

既存のVLA攻撃はピクセル空間の摂動やホワイトボックスアクセスに依存し、視覚的なアーティファクトが目立ち、実世界のロボットシステムへの展開が限定的だった。DURAは拡散モデルの潜在軌跡に沿って最適化することで、視覚的に自然なパッチを生成し、ブラックボックス設定でも実用的な攻撃を可能にする点が優れている。

3. 技術・手法の肝は?

事前学習済み拡散モデルの潜在軌跡に沿ってパッチを最適化する。これにより、生成されるパッチは自然な外観を保ちつつ、VLAモデルの予測行動を攻撃者の目標行動へと向かわせる。ブラックボックス設定では、被害モデルの予測行動のみを用いて勾配を推定する。

4. どうやって有効だと検証した?

シミュレーションと実世界の物理環境の両方で広範な実験を実施し、既存手法と比較してDURAが一貫して優れた性能を示すことを確認した。

5. 議論はある?

要旨からは、物理展開されたVLAモデルに対する安全性リスクを明らかにし、より強力な防御の必要性を訴えている。具体的な議論や限界については要旨からは不明。

6. 次に読むべき論文は?

要旨で参照されている既存のVLA攻撃手法や、関連する拡散モデルを用いた敵対的攻撃の研究。具体的な論文名は要旨に記載がないため、同分野の定番であるAdversarial PatchやDiffusion Modelベースの攻撃手法を挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jiahui Han, Yuhui Yao, Xin Wang, Jiafei Cao, Mingxuan Zhang, Danfeng Shan, Huiqi Deng, Guanchu Wang, Xia Hu

分類: cs.AI, cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models have shown strong capabilities in controlling robots across diverse manipulation tasks. However, their adversarial robustness remains largely underexplored, and exploiting this weakness can lead to physical-world harm. Existing attacks on VLA models often rely on pixel-space perturbations or white-box access, resulting in noticeable artifacts and limited deployability in real-world robotic systems. In this work, we propose DURA, a diffusion-based unrestricted robotic attack that generates visually natural adversarial patches for VLA models. DURA supports both white-box and black-box attack settings, where the black-box setting requires only the predicted actions of the victim model. By optimizing along the latent trajectory of a pretrained diffusion model, DURA generates visually natural patches while steering the robot toward attacker-specified target actions. Extensive experiments in both simulation and the real physical world show that DURA consistently outperforms existing methods. Our findings expose a safety risk for physically deployed VLA models and call for stronger defenses.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI