日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLA/失敗検出arXiv:2608.04510

GUARD: 拡散型VLAのための不確実性とアブレーションに基づくリスク検出

GUARD: Grounding Uncertainty and Ablation-Based Risk Detection for Diffusion-Based VLAs

シェア:XThreadsFacebookLINEはてブBluesky

拡散型視覚言語行動ポリシーが視覚・言語の証拠に弱く基づく予測を行う際の失敗を、テスト時に検出する手法GUARDを提案。事前学習済みポリシーを変更せず、KVキャッシュのアブレーションとデノイジング応答の比較から診断ストリームを導出し、軽量な時間分類器で失敗を検出する。

詳しい要約

1. どんなもの?

GUARDは、拡散ベースのvision-language-action (VLA)ポリシーに対するテスト時失敗検出手法。事前学習済みポリシーを変更せずに、視覚と言語の証拠への接地の弱さを測定する。最終のvision-language modelのkey-value (KV) cacheのトークンインデックス項目の影響を推定し、顕著なKVエントリを除去した反事実キャッシュを構築し、そのdenoising応答を元の条件付けと比較する。

2. 先行研究と比べてどこがすごい?

既存のruntime monitorと比較して、GUARDはポリシーの行動生成におけるマルチモーダル証拠への依存を直接プローブすることで、ポリシー、タスク、身体性、ドメインを横断して転移可能な失敗信号を提供する点が優れている。5つの未見タスク設定のうち4つで最高のROC-AUCを達成し、平均未見タスクROC-AUCを最強の競合runtime monitorより5.73ポイント向上させた。

3. 技術・手法の肝は?

手法の核心は、KV cacheのトークンインデックス項目の影響を推定し、顕著なKVエントリを除去した反事実キャッシュを構築して、元の条件付けとdenoising応答を比較すること。これに基づき、感度、attention entropy、modality bias、grounding efficiencyを含む診断ストリームを導出し、オンラインで較正して軽量な時間分類器で処理する。

4. どうやって有効だと検証した?

Pi0、SmolVLA、Alpamayo-1.5を、LIBERO、SimplerEnv、MetaWorld、PhysicalAI-AVの5つのポリシーベンチマーク設定で、タスクを分けた分割で評価した。未見タスク設定の4/5で最高のROC-AUCを達成し、残りの設定で2位。平均未見タスクROC-AUCは最強の競合runtime monitorより5.73ポイント向上し、最良の既見タスク平均には0.19ポイント差に留まった。

5. 議論はある?

要旨からは、GUARDが未見タスクで高い性能を示す一方、既見タスク平均では最良に僅かに及ばない点が議論の余地として考えられる。また、診断ストリームの解釈可能性や、異なるポリシーアーキテクチャへの適用範囲、計算コストなどについての詳細は要旨からは不明。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、拡散ベースのVLAポリシー(Pi0、SmolVLA、Alpamayo-1.5)や、ベンチマーク(LIBERO、SimplerEnv、MetaWorld、PhysicalAI-AV)が挙げられる。また、テスト時失敗検出の一般的な手法として、不確実性推定や異常検知に関する論文が関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Suhas Hegde, Jitendra Yasaswi Bharadwaj Katta

分類: cs.RO, cs.AI

原文アブストラクト

Diffusion-based vision-language-action (VLA) policies can generate plausible actions even when their predictions are weakly grounded in the visual and language evidence defining the task. We introduce GUARD, a test-time failure detection method that measures this grounding without modifying the pretrained policy. GUARD estimates the influence of token-indexed entries in the final vision-language model key-value (KV) cache, constructs counterfactual caches by ablating salient KV entries, and compares their denoising responses with the original conditioning. Based on the comparison, we derive GUARD diagnostic stream including sensitivity, attention entropy, modality bias, and grounding efficiency, which are calibrated online and processed by a lightweight temporal classifier. We evaluate GUARD under task-held-out splits across five policy-benchmark settings, using Pi0, SmolVLA, and Alpamayo-1.5 on LIBERO, SimplerEnv, MetaWorld, and PhysicalAI-AV. GUARD achieves the best ROC-AUC on four of five unseen-task settings and ranks second on the remaining setting, improving the average unseen-task ROC-AUC by 5.73 percentage points over the strongest competing runtime monitor while remaining within 0.19 points of the best seen-task average. These results show that directly probing action-head dependence on multimodal evidence provides a transferable failure signal across policies, tasks, embodiments, and domains.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI