日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

English週刊ニュースレター購読
VLA/セキュリティarXiv:2603.24935

SABER: 視覚言語行動モデルに対するステルスなエージェント型ブラックボックス攻撃フレームワーク

SABER: A Stealthy Agentic Black-Box Attack Framework for Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルへの指示文の小さな改変でロボットの行動を劣化させる攻撃を自動生成するフレームワークを提案し、LIBEROベンチマークで成功率低下などの効果を実証した。

詳しい要約

1. どんなもの？

- Vision-Language-Action (VLA) モデルに対する指示文ベースの敵対的攻撃を自動生成するフレームワーク SABER を提案。 - ブラックボックス設定で、限られた編集予算内で自然言語指示を小さく編集し、ロボットの行動を標的に劣化させる。 - 攻撃目標はタスク失敗、実行時間の不必要な長期化、制約違反の増加。 - LIBERO ベンチマーク上で6つの最先端 VLA モデルに対して評価。

2. 先行研究と比べてどこがすごい？

- 従来の GPT ベースの強いベースラインと比較して、ツール呼び出しを21.1%削減、文字編集を54.7%削減。 - それでいてタスク成功率を20.6%低下、行動系列長を55%増加、制約違反を33%増加させる。 - エージェント型ブラックボックスパイプラインにより、実用的でスケーラブルかつ適応的な red-teaming を実現。

3. 技術・手法の肝は？

- GRPO で訓練された ReAct 攻撃エージェントを用いる。 - 文字レベル、トークンレベル、プロンプトレベルのツールを組み合わせ、限られた編集予算内で小さくもっともらしい敵対的指示編集を生成。 - 編集は対象 VLA モデルの下流行動を標的に劣化させるよう誘導する。

4. どうやって有効だと検証した？

- LIBERO ベンチマーク上で6つの最先端 VLA モデルを対象に評価。 - タスク成功率の低下、行動系列長の増加、制約違反の増加を指標として測定。 - GPT ベースの強いベースラインとツール呼び出し数および文字編集数で比較。

5. 議論はある？

- 小さくもっともらしい指示編集がロボット実行を大幅に劣化させ得ることを示す。 - エージェント型ブラックボックスパイプラインがロボティック基盤モデルの red-teaming に実用的、スケーラブル、適応的であると主張。 - コードベースは公開されている。

6. 次に読むべき論文は？

- 要旨で参照・比較されている GPT ベースのベースライン。 - 関連手法として GRPO、ReAct、VLA モデル、LIBERO ベンチマーク。 - 同分野の定番として Vision-Language-Action モデルのロバスト性評価に関する研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xiyang Wu, Guangyao Shi, Qingzi Wang, Zongxia Li, Amrit Singh Bedi, Dinesh Manocha

分類: cs.RO

原文アブストラクト

Vision-language-action (VLA) models enable robots to follow natural-language instructions grounded in visual observations, but the instruction channel also introduces a critical vulnerability: small textual perturbations can alter downstream robot behavior. Systematic robustness evaluation therefore requires a black-box attacker that can generate minimal yet effective instruction edits across diverse VLA models. To this end, we present SABER, an agent-centric approach for automatically generating instruction-based adversarial attacks on VLA models under bounded edit budgets. SABER uses a GRPO-trained ReAct attacker to generate small, plausible adversarial instruction edits using character-, token-, and prompt-level tools under a bounded edit budget that induces targeted behavioral degradation, including task failure, unnecessarily long execution, and increased constraint violations. On the LIBERO benchmark across six state-of-the-art VLA models, SABER reduces task success by 20.6%, increases action-sequence length by 55%, and raises constraint violations by 33%, while requiring 21.1% fewer tool calls and 54.7% fewer character edits than strong GPT-based baselines. These results show that small, plausible instruction edits are sufficient to substantially degrade robot execution, and that an agentic black-box pipeline offers a practical, scalable, and adaptive approach for red-teaming robotic foundation models. The codebase is publicly available at https://github.com/wuxiyang1996/SABER.

arXivで原文を読む →arXiv概要ページ

関連論文

← 論文一覧

今週よく読まれている記事

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大　最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携　2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING（GPU搭載BTOゲーミングPC）

OZ GAMING（GPU搭載BTOゲーミングPC）の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI
双腕モバイルマニピュレーターOpenShellの実機とお披露目フライヤー

双腕モバイルマニピュレーター OpenShell

人と働くために、顔がある。

OpenShellの特徴・実機を見る →