日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2602.01834

概念ベース辞書学習によるVLAモデルの推論時安全性制御

Concept-Based Dictionary Learning for Inference-Time Safety in Vision Language Action Models

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルの隠れ層活性からスパースで解釈可能な辞書を学習し、有害な概念方向を検出・抑制することで、再学習なしに推論時の安全性を高める手法を提案。

詳しい要約

1. どんなもの?

- Vision Language Action (VLA) モデル向けの推論時安全性制御フレームワーク。 - 隠れ層の活性化から sparse で解釈可能な dictionary を学習。 - 有害な concept 方向を同定し、リスクが閾値を超えると危険成分を減衰。 - plug-in かつ model-agnostic で再学習不要。 - 身体性システムにおける初の推論時 concept ベース安全手法と主張。

2. 先行研究と比べてどこがすごい?

- 既存防御 (alignment, filtering, prompt hardening) は介入が遅すぎる、または誤ったモダリティで行われる。 - 融合表現が悪用可能なまま残る問題に対処。 - 本手法は推論時に hidden activations へ介入し、攻撃成功率を70%以上削減。 - タスク成功率を維持しつつ SOTA 防御性能を達成。 - 再学習不要で多様な VLA に統合可能。

3. 技術・手法の肝は?

- 隠れ層活性化から sparse で解釈可能な dictionary を学習。 - 有害 concept 方向を同定。 - 推定リスクが閾値を超えた場合、危険成分を減衰させる。 - 推論時 safety control として plug-in で動作。 - model-agnostic で再学習不要。

4. どうやって有効だと検証した?

- Libero-Harm, BadRobot, RoboPair, IS-Bench で実験。 - 攻撃成功率を70%以上削減。 - タスク成功率を維持。 - SOTA 防御性能を達成。

5. 議論はある?

- 既存防御は介入が遅すぎる、または誤ったモダリティで行われると指摘。 - 融合表現が悪用可能であると議論。 - 本手法が解釈性と安全な展開を促進すると主張。 - 限界や今後の課題は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: alignment, filtering, prompt hardening などの既存防御。 - 関連手法: Vision Language Action (VLA) モデル、sparse dictionary learning。 - データセット: Libero-Harm, BadRobot, RoboPair, IS-Bench。 - 同分野の定番: 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Siqi Wen, Shu Yang, Shaopeng Fu, Jingfeng Zhang, Lijie Hu, Di Wang

分類: cs.RO

原文アブストラクト

Vision Language Action (VLA) models close the perception action loop by translating multimodal instructions into executable behaviors, but this very capability magnifies safety risks: jailbreaks that merely yield toxic text in LLMs can trigger unsafe physical actions in embodied systems. Existing defenses alignment, filtering, or prompt hardening intervene too late or at the wrong modality, leaving fused representations exploitable. We introduce a concept based dictionary learning framework for inference time safety control. By learning sparse, interpretable dictionaries from hidden activations, our method identifies harmful concept directions and attenuates risky components when the estimated risk exceeds a threshold. Experiments on Libero-Harm, BadRobot, RoboPair, and IS-Bench show that our approach achieves state-of-the-art defense performance, cutting attack success rates by over 70\% while maintaining task success. Crucially, the framework is plug-in and model-agnostic, requiring no retraining and integrating seamlessly with diverse VLAs. To our knowledge, this is the first inference time concept based safety method for embodied systems, advancing both interpretability and safe deployment of VLA models.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI