日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLA/言語指示最適化arXiv:2606.12299

VLAに何を言うべきかを学ぶ:ほぼ無害なビジョン言語行動モデルの操縦

Learning What to Say to Your VLA: Mostly Harmless Vision Language Action Model Steering

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルへの言語指示を自動で探索・改善し、性能向上を予測するヘッドを学習して、有害な介入を防ぎつつタスク成功率を高めるフレームワークを提案した。

詳しい要約

1. どんなもの?

- 本論文は、Vision-Language-Action (VLA) モデルに対する言語指示の脆弱性を解決するフレームワークを提案する。 - 対話的に言語シーケンスを探索し、テスト時の言語フィードバックポリシー (LFP) に蒸留し、言語ステアリングが性能を改善するか予測する improvement head を学習する。 - この improvement head を conformalize することで、分布外シナリオでの有害なステアリング介入を防ぐ。 - 任意の凍結済み事前学習 VLA に適用可能で、元の訓練分布へのアクセスやファインチューニングを必要としない。

2. 先行研究と比べてどこがすごい?

- 従来の VLA は言語から行動へのマッピングが脆く、意味的に類似した指示でも行動が大きく異なることがあった。 - ゼロショット言語モデルによるプロンプティングでは、VLA を確実にタスク成功へ導けない場合があった。 - 本手法は、言語シーケンスを対話的に探索し、テスト時の LFP として蒸留することで、プロンプティングのみでは引き出せない能力を引き出す。 - さらに conformal prediction を用いて improvement head を調整し、有害な介入を防ぐ保証を提供する点が新しい。 - 凍結 VLA に適用でき、ファインチューニング不要で、訓練分布にも依存しない。

3. 技術・手法の肝は?

- 対話的に言語シーケンスを探索し、閉ループ VLA タスク性能を改善する言語フィードバックポリシー (LFP) を蒸留する。 - 言語ステアリングが性能を改善するか予測する improvement head を学習する。 - improvement head を conformalize し、分布外シナリオで LFP が元の指示より性能を下げるような有害なステアリング介入を防止する。 - 任意の凍結済み事前学習 VLA に適用可能で、元の訓練分布へのアクセスやモデルのファインチューニングを必要としない。

4. どうやって有効だと検証した?

- シミュレーション環境で、conformalized LFP がベース VLA 性能を 24.7% 改善した。 - ハードウェア環境で、conformalized LFP がベース VLA 性能を 65.0% 改善した。 - 視覚的・意味的摂動に対して、conformalized LFP は強い無害性保証を示し、オープンループプロンプティングでは観察されない回復行動を生成した。

5. 議論はある?

- 本手法は、言語ステアリングが有害となる分布外シナリオでの無害性保証を提供する。 - オープンループプロンプティングでは得られない回復行動が観察された。 - ただし、要旨からは計算コストやスケーラビリティ、他の VLA モデルへの一般化に関する議論は不明である。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、Vision-Language-Action (VLA) モデル、ゼロショット言語モデル、conformal prediction が挙げられる。 - 同分野の定番として、RT-1、RT-2、PaLM-E などの VLA モデルや、言語条件付きロボット学習に関する研究が次に読むべき論文として考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hyun Joe Jeong, Gokul Swamy, Andrea Bajcsy

分類: cs.RO, cs.LG

原文アブストラクト

Vision-Language-Action (VLA) models provide a natural language interface to robot control, but the mapping from language to behavior is often brittle and unintuitive: semantically similar instructions can induce drastically different behaviors, while some capabilities may not be elicitable through prompting alone. As a result, both human instructions and zero-shot language models can fail to reliably steer VLAs toward successful task execution. In this work, we propose a framework that interactively searches for language sequences that improve closed-loop VLA task performance, distills these sequences into a test-time language feedback policy (LFP), and learns an improvement head that predicts when language steering will improve performance. We conformalize this improvement head to prevent harmful steering interventions, where the LFP decreases task performance relative to the original instruction on out-of-distribution scenarios. Crucially, our approach operates on arbitrary frozen pre-trained VLAs, requiring neither access to the original training distribution nor fine-tuning of the underlying model. On seen environments, our conformalized LFP improves base VLA performance by 24.7% in simulation and 65.0% in hardware. On visual and semantic perturbations, our conformalized LFP has strong harmlessness guarantees, and produces recovery behaviors not observed with open-loop prompting.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  4. 4GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  5. 5Google DeepMind、ロボット向けAIを発表新製品・発表

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI