日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAセキュリティarXiv:2601.04266

状態バックドア:視覚言語行動モデルに対するステルスな実世界ポイズニング攻撃

State Backdoor: Towards Stealthy Real-world Poisoning Attack on Vision-Language-Action Model in State Space

シェア:XThreadsFacebookLINEはてブBluesky

ロボットアームの初期状態をトリガーとして悪用し、VLAモデルに標的の誤動作を引き起こすバックドア攻撃を提案。遺伝的アルゴリズムで最適なトリガーを探索し、実世界タスクで90%以上の攻撃成功率を達成した。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルに対する新たな backdoor 攻撃手法「State Backdoor」を提案。 - ロボットアームの初期状態をトリガーとして利用し、クリーンデータでの性能を維持しつつ、標的の誤動作を引き起こす。 - 実世界環境での変動に強く、視覚的トリガーに依存しないステルス性の高い攻撃を実現。

2. 先行研究と比べてどこがすごい?

- 既存の backdoor 手法は視覚モダリティに可視トリガーを挿入するものが主流で、環境変動によりロバスト性とステルス性が低い。 - 本研究は状態空間をトリガーとすることで、実世界設定での堅牢性と検知困難性を大幅に向上。 - 攻撃成功率90%以上を達成しつつ、良性タスク性能に影響を与えない点で先行研究を凌駕。

3. 技術・手法の肝は?

- ロボットアームの初期状態をトリガーとして活用する点が肝。 - トリガーのステルス性と有効性を最適化するため、Preference-guided Genetic Algorithm (PGA) を設計。 - PGA は状態空間を効率的に探索し、最小かつ強力なトリガーを発見する。

4. どうやって有効だと検証した?

- 5つの代表的な VLA モデルと5つの実世界タスクで実験を実施。 - 攻撃成功率が90%を超え、かつ良性タスクの性能に影響がないことを確認。 - 実世界環境での有効性を実証し、 embodied AI システムの未探索の脆弱性を明らかにした。

5. 議論はある?

- 要旨からは、攻撃の検知や防御策、倫理的影響に関する議論は明示されていない。 - 実世界での環境変動に対するロバスト性や、他のモダリティとの組み合わせに関する議論は不明。 - 限界や将来の課題については要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、視覚トリガーを用いた既存の backdoor 攻撃(例: BadNets, TrojanNN)や VLA モデル(例: RT-1, RT-2)が挙げられる。 - 次に読むべき論文としては、VLA モデルのセキュリティや backdoor 攻撃に関するサーベイ、および Preference-guided Genetic Algorithm の詳細を述べた論文が考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ji Guo, Wenbo Jiang, Yansong Lin, Yijing Liu, Ruichen Zhang, Guomin Lu, Aiguo Chen, Xinshuo Han, Hongwei Li

分類: cs.CR, cs.LG

原文アブストラクト

Vision-Language-Action (VLA) models are widely deployed in safety-critical embodied AI applications such as robotics. However, their complex multimodal interactions also expose new security vulnerabilities. In this paper, we investigate a backdoor threat in VLA models, where malicious inputs cause targeted misbehavior while preserving performance on clean data. Existing backdoor methods predominantly rely on inserting visible triggers into visual modality, which suffer from poor robustness and low insusceptibility in real-world settings due to environmental variability. To overcome these limitations, we introduce the State Backdoor, a novel and practical backdoor attack that leverages the robot arm's initial state as the trigger. To optimize trigger for insusceptibility and effectiveness, we design a Preference-guided Genetic Algorithm (PGA) that efficiently searches the state space for minimal yet potent triggers. Extensive experiments on five representative VLA models and five real-world tasks show that our method achieves over 90% attack success rate without affecting benign task performance, revealing an underexplored vulnerability in embodied AI systems.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI