日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2607.27205

TurboVLA: RTX 4090上で32Hz・1GB未満のVRAMで動作するリアルタイム視覚言語行動モデル

TurboVLA: Real-Time Vision-Language-Action Model at 32 Hz on an RTX 4090 with <1 GB VRAM

シェア:XThreadsFacebookLINEはてブBluesky

従来のLLM中心のVLAアーキテクチャを、視覚と言語を独立にエンコードし軽量な双方向相互作用で直接行動にマッピングする方式に再設計し、計算コストとメモリ使用量を大幅に削減した。LIBEROで97.7%の成功率を達成し、大規模モデルに匹敵する性能を小規模で実現した。

詳しい要約

1. どんなもの?

TurboVLAは、ロボット操作のためのVision-Language-Action (VLA)モデルの新しいパラダイムを提案する。従来のLLM中心のV→L→A経路を、直接的なV+L→Aマッピングに再構成する。視覚観察と言語指示を独立にエンコードし、軽量な双方向の視覚-言語相互作用で情報を交換し、コンパクトなデコーダで連続的なアクションチャンクを予測する。これにより、推論時の計算コストとメモリ使用量を大幅に削減する。

2. 先行研究と比べてどこがすごい?

従来のVLAモデルは、視覚観察を大規模言語モデル(LLM)の表現空間に投影してからアクションをデコードするLLM中心の設計が一般的であり、毎回の推論で大きな計算とメモリのオーバーヘッドが生じる。TurboVLAは、LLMを中央インターフェースとして使わず、視覚と言語の特徴から直接タスク条件付き表現を構築することで、このオーバーヘッドを大幅に削減する。0.2Bパラメータという小さなモデルで、より大きなVLAポリシーに匹敵またはそれを上回る性能を達成している点が優れている。

3. 技術・手法の肝は?

手法の肝は、従来のV→L→A経路をV+L→Aの直接マッピングに置き換えること。具体的には、視覚観察と言語指示をそれぞれ独立にエンコードし、軽量な双方向の視覚-言語相互作用モジュールで情報を交換する。その後、コンパクトなデコーダが連続的なアクションチャンクを予測する。この設計により、LLMを介さずにタスク条件付き表現を直接構築し、計算とメモリのコストを削減している。

4. どうやって有効だと検証した?

LIBEROベンチマークで評価し、平均成功率97.7%を達成。モデルサイズは0.2Bパラメータ、推論レイテンシは31.2ms、推論時のVRAM使用量は0.9GBであり、コンシューマーグレードのRTX 4090上で32Hzのリアルタイム動作を実現。より大きなVLAポリシーと比較して、性能が匹敵またはそれを上回ることを示した。

5. 議論はある?

要旨からは、LLM中心のパラダイムに対する代替案としての有効性が示されているが、より複雑なタスクや多様な環境での汎化性能、言語理解の深さ、長期的なタスクプランニングへの拡張などについては言及されていない。また、0.2Bパラメータという小ささが、複雑な視覚-言語理解にどの程度対応できるかという議論の余地がある。

6. 次に読むべき論文は?

要旨で参照されている先行研究や関連手法は明示されていないが、VLAモデルの分野では、RT-2やOpenVLAなどのLLM中心のVLAモデルが代表的である。また、視覚と言語の相互作用を扱う手法としては、FlamingoやBLIP-2などが関連する。次に読むべき論文としては、これらの基盤となる研究が挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hengyi Xie, Chenfei Yao, Xianjin Wu, Xuanyang Xi, Yiping Tang, Di Xu, Yingying Zhu, Dingkang Liang, Xiang Bai, Han Ding

分類: cs.CV, cs.RO

原文アブストラクト

Vision-language-action (VLA) models commonly adopt an LLM-centric $V \to L \to A$ pathway, where visual observations are projected into the representation space of a large language model before being decoded into robot actions. Although effective, this design incurs substantial computation and memory overhead at every policy invocation. In this work, we introduce TurboVLA, a new VLA paradigm that reformulates the conventional $V \to L \to A$ pathway as a direct $V + L \to A$ mapping. Instead of using a large language model as the central interface between perception and action, TurboVLA independently encodes visual observations and language instructions, directly exchanges information between them through lightweight bidirectional vision-language interaction, and predicts continuous action chunks with a compact decoder. This simple design constructs task-conditioned representations directly from visual and linguistic features, significantly reducing the computational and memory costs of VLA inference. On LIBERO, TurboVLA achieves 97.7% average success with only 0.2B parameters, 31.2 ms inference latency, and 0.9 GB inference VRAM on a consumer-grade RTX 4090, matching or outperforming substantially larger VLA policies. These results establish TurboVLA as a simple and effective alternative to the prevailing LLM-centric VLA paradigm, offering a new perspective on how vision, language, and action can be connected for efficient robotic manipulation. Code is available at https://github.com/H-EmbodVis/TurboVLA.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI