日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLA/操作arXiv:2604.14125

HiVLA: 視覚基盤中心の階層型身体化操作システム

HiVLA: A Visual-Grounded-Centric Hierarchical Embodied Manipulation System

シェア:XThreadsFacebookLINEはてブBluesky

高レベルの意味的計画と低レベルの運動制御を分離した階層型VLAシステムを提案し、VLMの推論能力を保ちつつ、拡散トランスフォーマーによる行動生成で長期的なスキル合成と細かい操作を向上させた。

詳しい要約

1. どんなもの?

- ロボットマニピュレーションのための階層型VLAフレームワークHiVLAを提案。 - 高レベルVLMプランナと低レベルDiTアクションエキスパートを明示的に分離。 - 高レベルはタスク分解とvisual groundingでサブタスク指示と対象bboxを生成。 - 低レベルはflow-matching Diffusion Transformerで物理動作を生成。 - 長期スキル構成や細粒度操作に強み。

2. 先行研究と比べてどこがすごい?

- 従来のend-to-end VLAは狭い制御データでfine-tuningするとVLMの推論能力が損なわれる。 - HiVLAは高レベル計画と低レベル制御を分離し、VLMのzero-shot推論を保持。 - 両コンポーネントを独立に改善可能。 - シミュレーションと実世界でSOTAのend-to-endベースラインを大幅に上回る。 - 特に長期horizonのスキル構成と clutter 環境での小物体操作で優れる。

3. 技術・手法の肝は?

- 高レベルVLMプランナがタスク分解とvisual groundingを実行。 - 構造化プランとしてサブタスク指示と正確なtarget bounding boxを出力。 - 低レベルにflow-matching Diffusion Transformer (DiT) action expertを導入。 - 新規cascaded cross-attention機構を備える。 - グローバル文脈、高解像度object-centric crops、skill semanticsを順次融合。 - DiTはロバストな実行に専念。

4. どうやって有効だと検証した?

- シミュレーションと実世界で広範な実験を実施。 - SOTAのend-to-endベースラインと比較。 - 長期horizonのスキル構成と clutter 環境での小物体の細粒度操作で特に優位性を確認。 - 詳細な評価指標やタスク設定は要旨からは不明。

5. 議論はある?

- 分離アーキテクチャによりVLMのzero-shot推論を保持しつつ、両コンポーネントを独立改善可能。 - 長期スキル構成と細粒度操作で有効性を示す。 - 限界や失敗事例、計算コスト、リアルタイム性などの議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法としてend-to-end Vision-Language-Action (VLA) models、Vision-Language Models (VLMs)、Diffusion Transformer (DiT)、flow-matching、visual groundingが挙げられる。 - 同分野の定番としてRT-1、RT-2、OpenVLA、Diffusion Policyなどが考えられるが、要旨に記載はない。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Tianshuo Yang, Guanyu Chen, Yutian Chen, Zhixuan Liang, Yitian Liu, Zanxin Chen, Chunpu Xu, Haotian Liang, Jiangmiao Pang, Yao Mu, Ping Luo

分類: cs.CV, cs.AI, cs.RO

原文アブストラクト

While end-to-end Vision-Language-Action (VLA) models offer a promising paradigm for robotic manipulation, fine-tuning them on narrow control data often compromises the profound reasoning capabilities inherited from their base Vision-Language Models (VLMs). To resolve this fundamental trade-off, we propose HiVLA, a visual-grounded-centric hierarchical framework that explicitly decouples high-level semantic planning from low-level motor control. In high-level part, a VLM planner first performs task decomposition and visual grounding to generate structured plans, comprising a subtask instruction and a precise target bounding box. Then, to translate this plan into physical actions, we introduce a flow-matching Diffusion Transformer (DiT) action expert in low-level part equipped with a novel cascaded cross-attention mechanism. This design sequentially fuses global context, high-resolution object-centric crops and skill semantics, enabling the DiT to focus purely on robust execution. Our decoupled architecture preserves the VLM's zero-shot reasoning while allowing independent improvement of both components. Extensive experiments in simulation and the real world demonstrate that HiVLA significantly outperforms state-of-the-art end-to-end baselines, particularly excelling in long-horizon skill composition and the fine-grained manipulation of small objects in cluttered scenes.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI