日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

プライバシー/攻撃arXiv:2606.15165

VLALeaks: 視覚言語行動モデルに対するメンバーシップ推論攻撃

VLALeaks: Membership Inference Attacks against Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルが訓練データを記憶することによるプライバシー漏洩リスクに着目し、注意の差異に基づくメンバーシップ推論攻撃を提案した。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルに対する Membership Inference Attack (MIA) を初めて体系的に研究 - 提案手法 VLALeaks は VLA モデルの attention の差異に基づく - 訓練データの記憶とロボットデータ取得コストの高さから生じるプライバシー漏洩・知的財産侵害の懸念に対処 - 2段階プロセス: (1) membership feature extraction, (2) attack model construction - 複数の VLA benchmarks で評価し、攻撃 AUC と TPR@1%FPR で最適な性能を達成

2. 先行研究と比べてどこがすごい?

- VLA モデルにおける MIA はこれまで十分に検討されていなかった - 本研究は VLA モデルのプライバシー脆弱性を初めて明らかにする - 既存の MIA 研究と比較して、VLA 特有の attention の差異を利用する点が新しい - 複数の VLA benchmarks で最適な攻撃性能を示し、先行研究との直接比較は要旨からは不明

3. 技術・手法の肝は?

- VLA モデルの attention の差異に基づく Membership Inference Attack - 2段階プロセス: (1) membership feature extraction, (2) attack model construction - 具体的な attention の種類や特徴抽出・攻撃モデル構築の詳細は要旨からは不明

4. どうやって有効だと検証した?

- 複数の VLA benchmarks を用いた実験 - 攻撃 AUC と TPR@1%FPR を指標として評価 - VLALeaks が membership 情報を容易に明らかにし、最適な攻撃性能を達成することを示した - 具体的なベンチマーク名やデータセット名は要旨からは不明

5. 議論はある?

- VLA モデルのプライバシー脆弱性を指摘し、安全で信頼できる VLA モデルへの洞察を提供することを目的とする - データプライバシー漏洩と知的財産侵害の深刻な懸念に言及 - 具体的な議論や限界、対策については要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない - 同分野の関連手法として Membership Inference Attacks (MIAs) の一般的な研究が挙げられる - VLA モデルに関する研究やロボットデータのプライバシー保護に関する論文が次に読むべき候補として考えられるが、具体的な論文名は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xukun Luan, Jinyan Liu, Xuesong Li, Yuanguo Bi, Renjun Wu, Zhongxiang Lei, Di Wang

分類: cs.CR, cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models enable end-to-end robot control and have garnered widespread attention. However, the memorization of training data inherent to VLA, coupled with the high cost of robotic data acquisition, raises serious concerns regarding data privacy leakage and intellectual property infringement. Membership inference attacks (MIAs) aim to determine whether a given sample belongs to the training set. While representing a significant privacy threat, this attack remains underexplored in the context of VLA models. To bridge this gap, we propose VLALeaks, which is based on attention discrepancies in VLA models. We reveal, for the first time, the privacy vulnerabilities of VLA models. Specifically, it comprises a two-stage process: (1) membership feature extraction, and (2) attack model construction. Experimental results across multiple VLA benchmarks demonstrate that VLALeaks readily reveals membership information and achieves optimal attack AUC and TPR@1\%FPR, highlighting the privacy vulnerabilities in current VLA model deployments. Our work is the first systematic study of MIAs on VLA models, aiming to provide insights for secure and trustworthy VLA models.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI