日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ロボット制御arXiv:2606.23574

視覚言語行動モデルと世界行動モデルのための透かし

A Watermark for Vision-Language-Action and World Action Models

シェア:XThreadsFacebookLINEはてブBluesky

ロボット制御用の視覚言語行動モデルや世界行動モデルに、秘密の鍵付きノイズシードを埋め込むことで知的財産を保護する透かし手法を提案した。

詳しい要約

1. どんなもの?

- VLAモデルとWAMを対象にした所有権検証手法 - モデルをblack-boxサービスとして提供する状況を想定 - 推論時のGaussian noiseのseedを鍵付きに置換して指紋を埋め込む - 検証時はロボットのaction channelからseedを復元し鍵を確認 - 2つのモデルと2つのロボットスイートで評価

2. 先行研究と比べてどこがすごい?

- 従来のwatermarkは主に画像・テキスト生成向け - VLA/WAMのaction出力に対する所有権検証は未確立 - 提案手法は生成前のnoise seedを利用する点が新しい - 指紋付きactionが通常と統計的に同一で検知・除去が困難 - 出力側の除去攻撃やweight編集にも頑健

3. 技術・手法の肝は?

- 生成前にサンプリングするGaussian noiseのseedを鍵付きseedに交換 - 鍵付きseedは通常ノイズと同じ分布に従うため出力に統計的差異なし - 検証時は被疑モデルをauthorized accessで実行しaction channelを記録 - 部分的・後処理済みの出力から勾配ベースMAP最適化でseedを復元 - 復元seedが秘密鍵を持つかテストし、各rolloutをスコア化して集約判定

4. どうやって有効だと検証した?

- 2つの代表モデルと2つのロボットスイートで実験 - 指紋の検出、複数鍵の識別、各種攻撃へのrobustnessを評価 - タスク性能をほとんど変えずに指紋を検出可能 - 出力側の除去攻撃やweightレベルの編集後も検出可能 - 設計が有効な理由の分析も実施

5. 議論はある?

- 指紋付きactionが通常と統計的に同一であるため検知困難 - 出力側の除去攻撃やweight編集に対するrobustnessを確認 - タスク性能への影響は小さいと主張 - ただし、より強力な攻撃や適応的攻撃への耐性は要旨からは不明 - 他のVLA/WAMモデルへの一般化可能性も要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明記されていない - 関連手法としてwatermarking、model fingerprinting、VLA、WAM - 同分野の定番としてVision-Language-Action models、World Models - 具体的な論文名は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yule Liu, Shuai Liu, Jiaheng Wei, Xinlei He

分類: cs.CR, cs.RO

原文アブストラクト

Vision-language-action (VLA) models and world-action models (WAM) are the generative models now driving general-purpose robot control, turning raw camera input directly into motor commands. They are increasingly deployed as black-box services, where a partner runs the policy through an interface while the owner keeps the weights private. Training such a model takes proprietary data and heavy computational power, making the deployed model itself a valuable intellectual property. To address this, we propose the \emph{keyed latent-provenance verification} method, which fingerprints the policy through the seed of the Gaussian noise vector that the models draw before generation. At the injection stage, the owner swaps this seed for a keyed one with the same distribution as ordinary noise, so the fingerprinted actions are statistically identical to those of an ordinary run and an adversary watching the output finds no signal to detect or remove. At the verification stage, the owner runs the suspect model under authorized access and records the action channels the robot executes, a partial and possibly post-processed view of the policy's output. From this view, the verifier recovers the seed by gradient-based maximum a posteriori (MAP) optimization, tests it for the secret key to score each rollout, and aggregates these scores into a single decision on whether the suspect model belongs to the owner. We evaluate the method on two representative models across two robot suites. The experiments cover detection of the fingerprint, identification of which of several keys a suspect carries, robustness to a range of attacks, and an analysis of why the design works. Across both models, the fingerprint can be detected reliably with little change to task performance, and it remains detectable under output-side removal attacks and weight-level edits.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI