日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2603.12717

思考の改変が行動を変える:VLAロボット操作におけるChain-of-Thoughtの脆弱性の探究

Altered Thoughts, Altered Actions: Probing Chain-of-Thought Vulnerabilities in VLA Robotic Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルが生成する推論トレースを人為的に破壊すると、物体名の置換のみが成功率を大きく低下させ、行動デコーダが推論の質ではなく実体参照の整合性に依存していることを示した。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルが採用する chain-of-thought (CoT) 推論の内部テキストチャネルに対する敵対的脆弱性を調査 - 推論トレースのみを標的とし、入力はそのままにロボットの物理タスク性能を劣化させられるかを問う - 7種類のテキスト破壊を3段階の攻撃者層(blind noise, mechanical-semantic, LLM-adaptive)に分類 - 最先端の reasoning VLA を LIBERO の卓上操作 40 タスクで評価

2. 先行研究と比べてどこがすごい?

- 従来の VLA 研究は入力や知覚への攻撃を扱うが、推論モジュールと行動デコーダ間の内部テキストチャネルは未検討 - 本研究はこの中間プランへの敵対的攻撃を初めて体系的に調査 - 入力検証型防御では見えない新たな脅威ベクトルであることを示す - 非 reasoning VLA との比較で、脆弱性が reasoning 拡張モデルに固有であることを確認

3. 技術・手法の肝は?

- 7種類のテキスト破壊:物体名置換、文順序入れ替え、空間方向反転、トークンノイズ、LLM によるもっともらしい誤プラン生成など - 3層の攻撃者:blind noise、mechanical-semantic、LLM-adaptive - 推論トレースのみを改変し、視覚入力や指示は保持 - 行動デコーダが中間プランのどの特性に依存するかを切り分ける設計

4. どうやって有効だと検証した?

- LIBERO の卓上操作 40 タスクで成功率を測定 - 物体名置換が全体成功率を 8.3 pp 低下、goal-conditioned タスクで -19.3 pp、個別タスクで -45 pp - 文順序入れ替え、空間方向反転、トークンノイズ、70B LLM による誤プランは ±4 pp 以内で影響軽微 - 非 reasoning VLA を対照に、脆弱性が reasoning 拡張モデルに限定されることを確認 - 指示レベルの攻撃は両アーキテクチャを劣化させることも確認

5. 議論はある?

- 行動デコーダは推論の品質や順序構造ではなく、entity-reference の完全性に依存するという非対称性を指摘 - 高度な LLM 攻撃者が単純な物体名置換より性能が低い理由:もっともらしさを保つと entity-grounding 構造が保持されるため - 内部推論トレースが入力検証型防御では見えないステルスな脅威ベクトルであると議論 - 防御策や reasoning VLA の設計への含意は要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究:chain-of-thought (CoT) reasoning を採用する Vision-Language-Action (VLA) モデル、非 reasoning VLA、LIBERO ベンチマーク - 関連手法:LLM-adaptive 攻撃、mechanical-semantic 攻撃、blind noise 攻撃 - 同分野の定番:Vision-Language-Action モデル全般、ロボット操作における敵対的攻撃研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Tuan Duong Trinh, Naveed Akhtar, Basim Azam

分類: cs.RO, cs.AI, cs.LG

原文アブストラクト

Recent Vision-Language-Action (VLA) models increasingly adopt chain-of-thought (CoT) reasoning, generating a natural-language plan before decoding motor commands. This internal text channel between the reasoning module and the action decoder has received no adversarial scrutiny. We ask: which properties of this intermediate plan does the action decoder actually rely on, and can targeted corruption of the reasoning trace alone -- with all inputs left intact -- degrade a robot's physical task performance? We design a taxonomy of seven text corruptions organized into three attacker tiers (blind noise, mechanical-semantic, and LLM-adaptive) and apply them to a state-of-the-art reasoning VLA across 40 LIBERO tabletop manipulation tasks. Our results reveal a striking asymmetry: substituting object names in the reasoning trace reduces overall success rate by 8.3~percentage points (pp) -- reaching $-$19.3~pp on goal-conditioned tasks and $-$45~pp on individual tasks -- whereas sentence reordering, spatial-direction reversal, token noise, and even a 70B-parameter LLM crafting plausible-but-wrong plans all have negligible impact (within $\pm$4~pp). This asymmetry indicates that the action decoder depends on entity-reference integrity rather than reasoning quality or sequential structure. Notably, a sophisticated LLM-based attacker underperforms simple mechanical object-name substitution, because preserving plausibility inadvertently retains the entity-grounding structure the decoder needs. A cross-architecture control using a non-reasoning VLA confirms the vulnerability is exclusive to reasoning-augmented models, while instruction-level attacks degrade both architectures -- establishing that the internal reasoning trace is a distinct and stealthy threat vector invisible to input-validation defenses.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI