日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2609.22973

視覚言語行動モデルの連合ファインチューニングに関する実証研究とオープンテストベッド

An Empirical Study and Open Testbed for Federated Fine-Tuning of Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

事前学習済みVLAモデルを連合学習でファインチューニングする際の設計選択を体系的に検証し、シミュレーションと実機実験を通じて知見と課題を明らかにした。

詳しい要約

1. どんなもの?

- 事前学習済み Vision-Language-Action (VLA) モデルを新しいロボット・環境・タスクに適応させるための連合学習 (federated learning) の実証研究。 - 3つの現代的な事前学習済み VLA ポリシーを対象に、LIBERO 操作ベンチマークの40シミュレーションタスクと、2つの実機実験 (2拠点・3拠点) の6実世界タスクで連合ファインチューニングを系統的に評価。 - 連合パラメータスコープ、3つの集約アルゴリズム、分布シフト下の評価を分析。 - 再現可能なベンチマークと再利用可能な訓練フレームワークの欠如を埋めるため、モデル・ランタイム非依存のテストベッド DECENTVLA をオープンソース化。

2. 先行研究と比べてどこがすごい?

- 従来、事前学習済み VLA の連合学習が可能かは未解決であり、再現可能なベンチマークや再利用可能な訓練フレームワークがなく、既存結果の比較が困難だった。 - 本研究は、複数の連合パラメータスコープ、3つの集約アルゴリズム、分布シフト下の評価を含む系統的な実証研究を初めて提供。 - シミュレーションと実機の両方で、2拠点・3拠点の実世界実験を含む点が新しい。 - モデル・ランタイム非依存のテストベッド DECENTVLA をオープンソース化し、公平な比較を可能にする。

3. 技術・手法の肝は?

- 3つの現代的な事前学習済み VLA ポリシーを、連合学習によりファインチューニング。 - 複数の連合パラメータスコープ (federated parameter scopes) を検討。 - 3つの集約アルゴリズム (aggregation algorithms) を比較。 - 分布シフト下での評価を実施。 - シミュレーション (LIBERO の40タスク) と実機 (2拠点・3拠点の6タスク) で実験。 - 各クライアントがポリシーの一部を連合し残りをローカルに保持するパーソナライゼーションも検討。

4. どうやって有効だと検証した?

- LIBERO 操作ベンチマークの40シミュレーションタスクで評価。 - 2つの実機実験 (2拠点および3拠点) で6つの実世界タスクを評価。 - 複数の連合パラメータスコープ、3つの集約アルゴリズム、分布シフト下での評価を比較。 - 集中ファインチューニングとの比較を実施。

5. 議論はある?

- 連合スコープの選択が集約アルゴリズムの選択よりも支配的であるという知見。 - 実機では拠点間の異質性がシミュレーションよりも強く、集中ファインチューニングに匹敵することが難しい。 - 一方で、異質データでは集中ファインチューニングに匹敵し、分布シフト下では少なくとも集中ファインチューニングと同等のロバスト性を維持できる可能性。 - 各クライアントがポリシーの一部を連合し残りをローカルに保持するパーソナライゼーションは、ポリシーの事前学習が弱い場合に有効だが、使用可能なグローバルモデルが残らないという課題。 - 連合 VLA 学習の機会を強調。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: LIBERO 操作ベンチマーク、3つの現代的な事前学習済み VLA ポリシー、3つの集約アルゴリズム。 - 関連手法: 連合学習 (federated learning)、集中ファインチューニング (centralized fine-tuning)、分布シフト (distribution shift)、パーソナライゼーション (personalization)。 - 同分野の定番: Vision-Language-Action (VLA) モデル、ロボット操作ベンチマーク。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zhekai Duan, Kevin Ziyang Xie, Xinyu Tan, Shikai Geng, Chengxu Zhou, Ramana Kompella, Gaowen Liu, Chris Xiaoxuan Lu

分類: cs.RO

原文アブストラクト

Adapting a pretrained Vision-Language-Action (VLA) model to a new robot, environment, or task requires demonstrations that are collected locally and often discarded. Federated learning is a promising approach to exploiting such distributed demonstrations by learning a shared policy. However, whether it can adapt large pretrained VLAs remains an open question, and a lack of reproducible benchmarks for pretrained VLAs and reusable training frameworks makes existing results difficult to compare. In this paper, we conduct a systematic study of federated fine-tuning of three modern pretrained VLA policies on the 40 simulated tasks of the LIBERO manipulation benchmark, and on six real-world tasks in two real-robot experiments, with demonstrations collected across two and three sites, respectively. Our study analyzes the key choices in this setting, spanning multiple federated parameter scopes, three aggregation algorithms, and evaluation under distribution shift. Based on the study, we derive a series of lessons, including the dominance of the federated scope over the choice of aggregation algorithm and the difficulty of matching centralized fine-tuning on physical robots, where cross-site heterogeneity is stronger than simulation captures. We also highlight opportunities for federated VLA learning, such as the ability to match centralized fine-tuning on heterogeneous data, to remain at least as robust as centralized fine-tuning under distribution shift, and to personalize, with each client federating part of the policy and keeping the rest local, which helps where the policy's pretraining is weak but leaves no usable global model. We open-source \decentvla{}, the model- and runtime-agnostic testbed behind the study, to facilitate future research and fair comparisons in federated VLA learning.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI