日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2510.10932

DropVLA: 視覚言語行動モデルに対する行動レベルバックドア攻撃

DropVLA: An Action-Level Backdoor Attack on Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルの微調整時に視覚トリガーを混ぜ、攻撃者が指定したタイミングで特定の行動(例:グリッパを開く)を実行させる行動レベルバックドア攻撃を提案し、実機でも検証した。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルに対する action-level backdoor attack『DropVLA』の提案。 - 攻撃者は訓練時に隠れた trigger を仕込み、名目タスク性能を保ったまま特定の行動を誘発する。 - 対象は chunked fine-tuning される VLA で、attacker-chosen な decision point に再利用可能な action primitive(例: open_gripper)を強制する。 - 設定は realistic な pipeline-black-box かつ限定的な data-poisoning access。 - OpenVLA-7B + LIBERO と 7-DoF Franka arm + pi0-fast で実証。

2. 先行研究と比べてどこがすごい?

- 従来の VLA backdoor 研究は untargeted attack や task-level hijacking が中心で、個々の action への fine-grained 制御は未探索だった。 - DropVLA は action-level の backdoor を実現し、安全上重要な action primitive を狙って発火させる点が新しい。 - 0.31% という極めて少ない poisoned episodes で 98.67%-99.83% ASR を達成しつつ、clean-task retention 98.50%-99.17% を維持。 - text-only trigger が低 poisoning budget で不安定なのに対し、vision-only が安定して高 ASR を示すことを明らかにした。

3. 技術・手法の肝は?

- window-consistent relabeling scheme を用いた chunked fine-tuning により、action chunk 内で一貫した再ラベル付けを行う。 - 攻撃者は選んだ decision point で再利用可能な action primitive(例: open_gripper)を実行させる trigger を学習させる。 - pipeline-black-box かつ限定的な data-poisoning access という現実的制約下で動作。 - vision-only trigger を主軸とし、text-only や text+vision との比較も実施。 - 詳細な学習手順や loss 設計は要旨からは不明。

4. どうやって有効だと検証した?

- OpenVLA-7B を LIBERO で評価し、vision-only poisoning で ASR 98.67%-99.83%、poisoned episodes 0.31%、clean-task retention 98.50%-99.17% を報告。 - 500 Hz 環境で 25 control steps(0.05 s)以内に targeted action が発火することを確認。 - moderate な trigger variations への robustness と evaluation suites 間の transfer(96.27%, 99.09%)を検証。text-only は 0.72% と大きく失敗。 - 7-DoF Franka arm + pi0-fast で physical-world feasibility を検証し、camera-relative motion による image-plane trigger drift 下でも non-trivial な攻撃効果を確認。

5. 議論はある?

- VLA モデルが最小限の poisoning で安全上重要な action レベルに covertly steered され得ることを示唆。 - 名目性能の観測可能な劣化なしに backdoor が成立する点を強調。 - text-only trigger の不安定さ、text+vision が vision-only を一貫して上回らない点を報告。 - moderate な trigger 変動や suite 間 transfer への robustness に言及。 - 防御策や検出法、他の VLA アーキテクチャへの一般化可能性は要旨からは不明。

6. 次に読むべき論文は?

- OpenVLA-7B(OpenVLA) - LIBERO - pi0-fast - 7-DoF Franka arm を用いた関連研究 - VLA backdoor の先行研究(untargeted attack / task-level hijacking を扱うもの) - chunked fine-tuning および action chunking 関連手法

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zonghuan Xu, Jiayu Li, Yunhan Zhao, Xiang Zheng, Xingjun Ma, Yu-Gang Jiang

分類: cs.CR, cs.AI, cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models map multimodal perception and language instructions to executable robot actions, making them particularly vulnerable to behavioral backdoor manipulation: a hidden trigger introduced during training can induce unintended physical actions while nominal task performance remains intact. Prior work on VLA backdoors primarily studies untargeted attacks or task-level hijacking, leaving fine-grained control over individual actions largely unexplored. In this work, we present DropVLA, an action-level backdoor attack that forces a reusable action primitive (e.g., open_gripper) to execute at attacker-chosen decision points under a realistic pipeline-black-box setting with limited data-poisoning access, using a window-consistent relabeling scheme for chunked fine-tuning. On OpenVLA-7B evaluated with LIBERO, vision-only poisoning achieves 98.67%-99.83% attack success rate (ASR) with only 0.31% poisoned episodes while preserving 98.50%-99.17% clean-task retention, and successfully triggers the targeted action within 25 control steps at 500 Hz (0.05 s). Text-only triggers are unstable at low poisoning budgets, and combining text with vision provides no consistent ASR improvement over vision-only attacks. The backdoor remains robust to moderate trigger variations and transfers across evaluation suites (96.27%, 99.09%), whereas text-only largely fails (0.72%). We further validate physical-world feasibility on a 7-DoF Franka arm with pi0-fast, demonstrating non-trivial attack efficacy under camera-relative motion that induces image-plane trigger drift. These results reveal that VLA models can be covertly steered at the granularity of safety-critical actions with minimal poisoning and without observable degradation of nominal performance.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI