日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2511.20992

行動クローニング方策に対するデータセット汚染攻撃

Dataset Poisoning Attacks on Behavioral Cloning Policies

シェア:XThreadsFacebookLINEはてブBluesky

行動クローニングの方策がクリーンラベルバックドア攻撃に脆弱であることを初めて示し、汚染率やトリガー強度による影響と、エントロピーに基づく新たなテスト時トリガー攻撃を提案した。

詳しい要約

1. どんなもの?

- Behavior Cloning (BC) ポリシーに対する clean-label backdoor attack の有効性を初めて分析した研究。 - デモンストレーションのデータセットに visual trigger を注入して毒し、test 時に悪用可能な spurious correlation を作る。 - 毒データ割合・trigger 強度・trigger 種別に対する脆弱性のスケーリングを評価。 - entropy ベースの新しい test-time trigger attack も提案。

2. 先行研究と比べてどこがすごい?

- 著者らによれば BC ポリシーへの clean-label backdoor attack の有効性を分析した最初の研究。 - 従来の BC 研究は supervised learning による政策学習が中心で、実世界展開時の robustness や脆弱性の検討が不足していた。 - 具体的な先行研究名・比較対象は要旨からは不明。

3. 技術・手法の肝は?

- デモンストレーションに visual trigger を付与してデータセットを poison し、spurious correlation を学習させる clean-label backdoor attack。 - 毒データ割合・trigger 強度・trigger 種別を変えて脆弱性を評価。 - 新規の entropy ベース test-time trigger attack: 性能劣化に最も効果的な critical states を同定して test 時に trigger を発動。

4. どうやって有効だと検証した?

- 毒データ割合・trigger 強度・trigger 種別を変化させてポリシー脆弱性を実験的に評価。 - 最小限の poison でも near-baseline のタスク性能を示す一方、deployment 時に backdoor trigger attack へ非常に脆弱であることを実証。 - 具体的な環境・データセット・指標は要旨からは不明。

5. 議論はある?

- BC ポリシーの robustness 研究、特に大規模データセットで実世界の cyber-physical systems 向けポリシーを訓練する際の研究が急務だと主張。 - 最小限の poison でも性能が欺瞞的に高く見える点を警告。 - 限界や反論については要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照・比較されている個別研究は明示されていない。 - 関連手法として Behavior Cloning (BC)、clean-label backdoor attack、visual trigger、test-time trigger attack、entropy ベース攻撃が挙げられる。 - 同分野の定番として supervised learning による模倣学習や backdoor attack の一般文献を参照するのが妥当。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Akansha Kalra, Soumil Datta, Ethan Gilmore, Duc La, Guanhong Tao, Daniel S. Brown

分類: cs.LG, cs.CR, cs.RO

原文アブストラクト

Behavior Cloning (BC) is a popular framework for training sequential decision policies from expert demonstrations via supervised learning. As these policies are increasingly being deployed in the real world, their robustness and potential vulnerabilities are an important concern. In this work, we perform the first analysis of the efficacy of clean-label backdoor attacks on BC policies. Our backdoor attacks poison a dataset of demonstrations by injecting a visual trigger to create a spurious correlation that can be exploited at test time. We evaluate how policy vulnerability scales with the fraction of poisoned data, the strength of the trigger, and the trigger type. We also introduce a novel entropy-based test-time trigger attack that substantially degrades policy performance by identifying critical states where test-time triggering of the backdoor is expected to be most effective at degrading performance. We empirically demonstrate that BC policies trained on even minimally poisoned datasets exhibit deceptively high, near-baseline task performance despite being highly vulnerable to backdoor trigger attacks during deployment. Our results underscore the urgent need for more research into the robustness of BC policies, particularly as large-scale datasets are increasingly used to train policies for real-world cyber-physical systems. Videos and code are available at https://sites.google.com/view/dataset-poisoning-in-bc.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI