日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLA/ロボット学習arXiv:2605.08879

フローマッチングVLAにおける保守的SFTによる基盤能力の保持

Preserving Foundational Capabilities in Flow-Matching VLAs through Conservative SFT

シェア:XThreadsFacebookLINEはてブBluesky

フローマッチング型VLAモデルのファインチューニング時に生じる破壊的忘却を防ぐため、モデルの信頼度に応じて学習信号を動的にスケーリングする保守的教師あり学習(ConSFT)を提案し、LIBEROやRoboTwinベンチマークで既存手法を上回る性能を確認した。

詳しい要約

1. どんなもの?

- flow-matching VLAモデルのfine-tuningにおけるcatastrophic forgettingを防ぐ手法。 - Conservative Supervised Fine-Tuning (ConSFT)を提案。 - 事前データやアーキテクチャ変更を必要とせず、目的分布に適応しつつ事前能力を保持する。

2. 先行研究と比べてどこがすごい?

- 従来のvanilla SFTはパラメータの密な上書きにより事前能力を劣化させる。 - ConSFTは事前データ不要でExperience Replayと同等の効果を達成。 - 明示的な正則化に必要な並列参照ネットワークを必要とせず、スパースなパラメータ更新を維持。

3. 技術・手法の肝は?

- モデルのconfidenceに基づいて学習信号を動的にスケーリング。 - 低confidenceサンプルからの過剰な勾配を抑制し、パラメータ更新のリスクを制限。 - reinforcement learningのtrust-region clippingに着想を得たprogressive learning dynamicを確立。

4. どうやって有効だと検証した?

- LIBEROとRoboTwinベンチマークで評価。 - 最先端のflow-matching VLA(π0, π0.5, GR00T-N1.6-3B)に適用。 - 能力保持においてvanilla SFTを平均20%以上上回り、実世界ロボット展開でも空間的過学習を防ぎ、事前の物理スキルを保持しつつ逐次タスクを獲得。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- Experience Replay(関連手法として比較) - trust-region clipping(強化学習の手法) - π0, π0.5, GR00T-N1.6-3B(評価対象のVLAモデル)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Tianyi Zhang, Shaopeng Zhai, Haoran Zhang, Fuxian Huang, Qi Zhang

分類: cs.RO

原文アブストラクト

Unconstrained fine-tuning of flow-matching Vision-Language-Action (VLA) models drives dense parameter overwrites, degrading pre-trained capabilities. We present Conservative Supervised Fine-Tuning (ConSFT), an optimization objective that adapts to target distributions while mitigating catastrophic forgetting, requiring zero prior data or architectural overhead. By dynamically scaling learning signals based on model confidence, ConSFT suppresses excessive gradients from low-confidence samples to prevent disproportionate parameter updates, thereby bounding the intrinsic parameter disruption risk. Inspired by reinforcement learning's trust-region clipping, this formulation establishes a progressive learning dynamic to secure target convergence and prior capability retention, maintaining sparse parameter updates without relying on the parallel reference networks required by explicit regularization. We evaluate ConSFT on the LIBERO and RoboTwin benchmarks across state-of-the-art flow-matching VLAs ($\pi_0$, $\pi_{0.5}$, and GR00T-N1.6-3B). The method outperforms vanilla SFT in capability retention by an average absolute margin of over 20\%, matching the efficacy of data-heavy Experience Replay in a prior-data-free regime. Real-world robotic deployments confirm that ConSFT precludes spatial overfitting during downstream adaptation, preserving pre-trained physical skills while acquiring sequential target tasks.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI