日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2605.11832

多視点潜在事前分布による行動多様体学習を用いたロボット操作

Learning Action Manifold with Multi-view Latent Priors for Robotic Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

単眼入力の奥行き曖昧性を解決するため、事前学習済み多視点拡散モデルで潜在的な新視点を合成し、3次元幾何学的ガイダンスで多視点特徴を整列するG3Tと、有効な行動多様体上で直接行動を予測するAMLを提案した。

詳しい要約

1. どんなもの?

- 本論文は、Vision-Language-Action (VLA) モデルにおける空間知覚と操作の課題に取り組む。 - 単眼入力の深度曖昧性に対処するため、事前学習済みの multi-view diffusion model を用いて潜在的な新規視点を合成する。 - さらに、Geometry-Guided Gated Transformer (G3T) を提案し、3D 幾何学的ガイダンスの下で multi-view 特徴を整列させ、オクルージョンノイズを適応的にフィルタリングする。 - 行動学習効率を向上させるため、Action Manifold Learning (AML) を導入し、ノイズや速度のような非構造化ターゲットの非効率な回帰を回避して、有効な action manifold 上で直接行動を予測する。 - LIBERO、RoboTwin 2.0、実ロボットタスクでの実験により、SOTA ベースラインを上回る成功率と堅牢性を示す。

2. 先行研究と比べてどこがすごい?

- 従来の VLA モデルは単眼入力による深度曖昧性や、非構造化ターゲットの回帰による非効率な行動学習に課題があった。 - 本手法は、事前学習済み multi-view diffusion model を活用して潜在的な新規視点を合成し、G3T で multi-view 特徴を整列させることで、深度曖昧性を軽減する点が新しい。 - また、AML により action manifold 上で直接行動を予測し、従来の回帰手法よりも効率的な学習を実現する。 - 実験で SOTA ベースラインを上回る成功率と堅牢性を示した点がすごい。

3. 技術・手法の肝は?

- 事前学習済み multi-view diffusion model を用いて、単眼入力から潜在的な新規視点を合成する。 - Geometry-Guided Gated Transformer (G3T) を提案し、3D 幾何学的ガイダンスの下で multi-view 特徴を整列させ、オクルージョンノイズを適応的にフィルタリングする。 - Action Manifold Learning (AML) を導入し、有効な action manifold 上で直接行動を予測する。これにより、ノイズや速度のような非構造化ターゲットの非効率な回帰を回避する。

4. どうやって有効だと検証した?

- LIBERO、RoboTwin 2.0、実ロボットタスクでの実験を実施。 - 提案手法が SOTA ベースラインを上回る成功率と堅牢性を達成することを示した。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究や関連手法は明示されていない。 - 同分野の定番として、Vision-Language-Action (VLA) モデル、multi-view diffusion model、Action Manifold Learning (AML) に関連する論文が挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Junjin Xiao, Dongyang Li, Yandan Yang, Shuang Zeng, Tong Lin, Xinyuan Chang, Feng Xiong, Mu Xu, Xing Wei, Zhiheng Ma, Qing Zhang, Wei-Shi Zheng

分類: cs.RO

原文アブストラクト

This paper tackles spatial perception and manipulation challenges in Vision-Language-Action (VLA) models. To address depth ambiguity from monocular input, we leverage a pre-trained multi-view diffusion model to synthesize latent novel views and propose a Geometry-Guided Gated Transformer (G3T) that aligns multi-view features under 3D geometric guidance while adaptively filtering occlusion noise. To improve action learning efficiency, we introduce Action Manifold Learning (AML), which directly predicts actions on the valid action manifold, bypassing inefficient regression of unstructured targets like noise or velocity. Experiments on LIBERO, RoboTwin 2.0, and real-robot tasks show our method achieves superior success rate and robustness over SOTA baselines. Project page: https://junjxiao.github.io/Multi-view-VLA.github.io/.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI