日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2509.21243

RetoVLA: レジスタトークンを再利用した空間推論対応の軽量VLAモデル

RetoVLA: Reusing Register Tokens for Spatial Reasoning in Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

Vision Transformerのレジスタトークンを捨てずに行動計画モジュールへ注入し、パラメータを増やさずに軽量VLAモデルの3D空間推論能力を回復させた。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルの軽量化アーキテクチャ RetoVLA の提案。 - 軽量 VLA はメモリ・計算コストを抑えられるが 3D spatial reasoning や scene layout understanding が低下する問題に対処。 - Vision Transformer で attention artifact 緩和用に導入される Register Tokens を再利用する点が特徴。 - 通常は使用後に破棄される Register Tokens を global spatial context の密表現として活用。 - 7-DOF manipulator を用いた実世界実験で評価。

2. 先行研究と比べてどこがすごい?

- 既存の model compression 手法は parameter footprint を削減できるが 3D spatial reasoning と scene layout understanding が低下する。 - RetoVLA は総 parameter count を増やさずに global context を回復する設計。 - 破棄されていた Register Tokens を再利用する点が先行手法と異なる。 - 実世界実験で baseline 比 17.1%p の平均 success rate 改善を報告。 - 軽量かつ spatially-aware な robotic agent を実現する機構として位置づけ。

3. 技術・手法の肝は?

- Register Tokens を action-planning module へ直接統合する dedicated spatial context injection path を導入。 - Register Tokens が持つ global spatial context の密表現を再利用。 - 再利用トークンを action planning に注入することで global context を回復。 - 総 parameter count を増やさない設計。 - 詳細な architecture 構成や学習手順は要旨からは不明。

4. どうやって有効だと検証した?

- 7-DOF manipulator を用いた real-world experiments で検証。 - baseline と比較して平均 success rate が 17.1%p 改善。 - 動画デモ (https://youtu.be/2CseBR-snZg) を公開。 - タスク数・試行回数・統計的検定などの詳細は要旨からは不明。

5. 議論はある?

- Register Tokens の再利用が効率的で spatially-aware な robotic agent 開発に有効であると主張。 - 総 parameter count を増やさず global context を回復できる点を利点として提示。 - 限界・失敗事例・他ロボットや他タスクへの汎化性については要旨からは不明。 - 計算コストや推論速度への影響の詳細は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照・比較されている具体的な先行研究は明示されていない。 - 関連手法として Vision Transformer の Register Tokens に関する研究。 - 軽量 VLA の model compression に関する研究。 - VLA モデル全般 (例: RT-2, OpenVLA など同分野の定番) を次に読む候補として挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jiyeon Koo, Taewan Cho, Hyunjoon Kang, Eunseom Pyo, Tae Gyun Oh, Taeryang Kim, Andrew Jaeyong Choi

分類: cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models have demonstrated robust performance across diverse robotic tasks. However, their high memory and computational demands often limit real-time deployment. While existing model compression techniques reduce the parameter footprint, they often drop in 3D spatial reasoning and scene layout understanding. This work introduces RetoVLA, an architecture designed to maintain spatial awareness in lightweight models by repurposing Register Tokens-learnable parameters originally introduced to mitigate attention artifacts in Vision Transformers. While these tokens are generally discarded once used, we repurpose them for their dense representation of global spatial context. RetoVLA integrates these recycled tokens directly into the action-planning module through a dedicated spatial context injection path. Our proposed design enables the recovery of global context without increasing the total parameter count. Real-world experiments using a 7-DOF manipulator show a 17.1%p improvement in average success rates over the baseline. Our results demonstrate that leveraging internal register tokens provides a highly effective mechanism for developing efficient, spatially-aware robotic agents. A video demonstration is available at: https://youtu.be/2CseBR-snZg

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI