日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2505.19080

ReFineVLA:推論を考慮した教師ガイド付き転移ファインチューニング

ReFineVLA: Reasoning-Aware Teacher-Guided Transfer Fine-Tuning

シェア:XThreadsFacebookLINEはてブBluesky

専門家モデルが生成した推論根拠でデータセットを拡張し、VLAモデルに行動の理由を考えさせるファインチューニング手法を提案。複雑な操作タスクでの汎化性能と解釈性を向上させた。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデル向けのマルチモーダル推論対応フレームワーク - 教師モデルが生成した reasoning rationales でロボットデータセットを拡張 - 事前学習済み VLA を reasoning-enriched データセットで fine-tune - 複雑・長期的な manipulation タスクにおける解釈性と汎化を狙う

2. 先行研究と比べてどこがすごい?

- 従来の VLA は明示的な reasoning を軽視し、入力-行動の機能的マッピングのみ学習 - 本研究は reasoning rationales を教師誘導で付与し、VLA に行動について推論させる - 事前学習済み VLA の汎化能力を維持しつつ reasoning 能力を向上 - 最先端ベースラインを manipulation タスクで上回る

3. 技術・手法の肝は?

- 専門 teacher model が reasoning rationales を生成しロボットデータセットを拡張 - ReFineVLA で事前学習済み VLA を reasoning-enriched データセットにより fine-tune - 汎化能力を保持しつつ reasoning 能力を強化する teacher-guided transfer fine-tuning - attention map 可視化で視覚注意・言語プロンプト・実行行動の整合を分析

4. どうやって有効だと検証した?

- manipulation タスクで最先端ベースラインと比較評価 - SimplerEnv WidowX Robot タスクで平均 5.0% 成功率向上 - variant aggregation 設定で平均 8.6% 向上 - SimplerEnv Google Robot タスクの visual matching 設定で 1.7% 向上 - attention map 可視化で関連物体への注意シフトを確認

5. 議論はある?

- ReFineVLA 学習モデルは関連物体への意味ある attention shift を示す - マルチモーダル理解の強化と汎化改善を示唆 - 解釈性と複雑・長期的 manipulation への汎化が焦点 - 具体的な限界や失敗事例は要旨からは不明

6. 次に読むべき論文は?

- Vision-Language-Action (VLA) モデルの代表的研究 - teacher model による rationale 生成・知識蒸留関連手法 - SimplerEnv ベンチマーク関連研究 - attention map 可視化による VLA 解釈性分析の先行研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Tuan Van Vo, Tan Quang Nguyen, Khang Minh Nguyen, Duy Ho Minh Nguyen, Minh Nhat Vu

分類: cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models have gained much attention from the research community thanks to their strength in translating multimodal observations with linguistic instructions into robotic actions. Despite their recent advancements, VLAs often overlook the explicit reasoning and only learn the functional input-action mappings, omitting these crucial logical steps for interpretability and generalization for complex, long-horizon manipulation tasks. In this work, we propose \textit{ReFineVLA}, a multimodal reasoning-aware framework that fine-tunes VLAs with teacher-guided reasons. We first augment robotic datasets with reasoning rationales generated by an expert teacher model, guiding VLA models to learn to reason about their actions. Then, we use \textit{ReFineVLA} to fine-tune pre-trained VLAs with the reasoning-enriched datasets, while maintaining their inherent generalization abilities and boosting reasoning capabilities. In addition, we conduct an attention map visualization to analyze the alignment among visual attention, linguistic prompts, and to-be-executed actions of \textit{ReFineVLA}, showcasing its ability to focus on relevant tasks and actions. Through the latter step, we explore that \textit{ReFineVLA}-trained models exhibit a meaningful attention shift towards relevant objects, highlighting the enhanced multimodal understanding and improved generalization. Evaluated across manipulation tasks, \textit{ReFineVLA} outperforms the state-of-the-art baselines. Specifically, it achieves an average increase of $5.0\%$ success rate on SimplerEnv WidowX Robot tasks, improves by an average of $8.6\%$ in variant aggregation settings, and by $1.7\%$ in visual matching settings for SimplerEnv Google Robot tasks. The source code will be publicly available.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  4. 4GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  5. 5Google DeepMind、ロボット向けAIを発表新製品・発表

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI