日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2511.01331

RobustVLA: 視覚言語行動モデルのためのロバスト性を考慮した強化学習ポストトレーニング

RobustVLA: Robustness-Aware Reinforcement Post-Training for Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

事前学習済みVLAモデルに対し、ヤコビアン正則化と平滑化正則化を組み込んだオンライン強化学習ポストトレーニングを行い、観測ノイズや行動摂動に対するロバスト性を高める手法を提案した。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデル向けの軽量なオンライン強化学習 (RL) ポストトレーニング手法 - 大規模マルチモーダル事前学習済み VLA は分布外 (out-of-distribution) 展開で観測ノイズ・センサ誤差・動作摂動に弱いという課題に対処 - 報酬最大化だけでなく環境不確実性へのロバスト性を明示的に高める点を狙う - ロボット操作の信頼性・ロバスト性向上を目的とする

2. 先行研究と比べてどこがすごい?

- 既存の RL ベースのポストトレーニングは主に報酬最大化を重視し、環境不確実性へのロバスト性を軽視 - RobustVLA はロバスト性を明示的に組み込んだ点が新しい - 多様なロボット環境の実験で prior state-of-the-art 手法をロバスト性・信頼性で大きく上回ると報告 - 原理的なロバスト性考慮型 RL ポストトレーニングの重要性を示す

3. 技術・手法の肝は?

- 体系的ロバスト性分析に基づき 2 つの正則化を同定 - Jacobian regularization: 観測ノイズへの感度を緩和 - smoothness regularization: 動作摂動下でポリシーを安定化 - これらを軽量なオンライン RL ポストトレーニングに組み込む - 事前学習済み VLA を対象に適用

4. どうやって有効だと検証した?

- 多様なロボット環境 (diverse robotic environments) で広範な実験を実施 - ロバスト性と信頼性の指標で prior state-of-the-art 手法と比較 - RobustVLA が有意に優れることを示す - 具体的な環境名・データセット名・評価指標の詳細は要旨からは不明

5. 議論はある?

- 報酬最大化偏重の既存 RL ポストトレーニングの限界を指摘 - ロバスト性考慮型 RL ポストトレーニングが VLA の信頼性向上の鍵と主張 - 観測ノイズと動作摂動の 2 種類の不確実性に着目 - 限界・失敗事例・計算コストなどの詳細な議論は要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている prior state-of-the-art の RL-based post-training 手法 (具体的名称は要旨からは不明) - VLA モデルの代表的事前学習手法 (一般的には RT-2 や OpenVLA など) - Jacobian regularization や smoothness regularization の原典・関連研究 - ロバスト強化学習 (robust RL) の定番手法

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hongyin Zhang, Shuo Zhang, Junxi Jin, Qixin Zeng, Runze Li, Donglin Wang

分類: cs.RO, cs.LG

原文アブストラクト

Vision-Language-Action (VLA) models have recently emerged as powerful general-purpose policies for robotic manipulation, benefiting from large-scale multi-modal pre-training. However, they often fail to generalize reliably in out-of-distribution deployments, where unavoidable disturbances such as observation noise, sensor errors, or actuation perturbations become prevalent. While recent Reinforcement Learning (RL)-based post-training provides a practical means to adapt pre-trained VLA models, existing methods mainly emphasize reward maximization and overlook robustness to environmental uncertainty. In this work, we introduce RobustVLA, a lightweight online RL post-training method designed to explicitly enhance the resilience of VLA models. Through a systematic robustness analysis, we identify two key regularizations: Jacobian regularization, which mitigates sensitivity to observation noise, and smoothness regularization, which stabilizes policies under action perturbations. Extensive experiments across diverse robotic environments demonstrate that RobustVLA significantly outperforms prior state-of-the-art methods in robustness and reliability. Our results highlight the importance of principled robustness-aware RL post-training as a key step toward improving the reliability and robustness of VLA models.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI