日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2602.21736

Joint-Aligned Latent Action: 実世界データからのスケーラブルなVLA事前学習に向けて

Joint-Aligned Latent Action: Towards Scalable VLA Pretraining in the Wild

シェア:XThreadsFacebookLINEはてブBluesky

人間の操作動画から逆動力学と実行動に整合する潜在行動を学習し、大規模なVLA事前学習を可能にするフレームワークJALAを提案。

詳しい要約

1. どんなもの?

- 大規模で多様なロボットデータ不足を補うため、人間の操作動画からVLAを事前学習するフレームワークJALAを提案。 - JALAはJointly-Aligned Latent Actionsを学習し、視覚的動態の完全再構成を回避。 - 逆動態と実行動に整合する予測的行動埋め込みを学習し、異種人間データから遷移認識・行動中心の潜在空間を獲得。 - UniHand-Mix(7.5M動画、2000時間超、実験室とin-the-wildを混合)でスケール。 - 制御・非制約環境でより現実的な手動作を生成し、シミュレーションと実世界のロボット操作性能を大幅改善。

2. 先行研究と比べてどこがすごい?

- 従来は小規模で精密ラベル付きデータセットか、手追跡ラベルが不確実な大規模in-the-wild映像かの二者択一を強いられていた。 - JALAは完全な視覚動態再構成を不要とし、逆動態と実行動に整合する潜在行動を学習することで、異種人間データを活用可能に。 - これにより、ラベル品質に依存せず大規模データからスケーラブルに事前学習できる点が優位。

3. 技術・手法の肝は?

- 視覚的動態の完全再構成を回避し、予測的行動埋め込みを学習。 - この埋め込みを逆動態(inverse dynamics)と実行動(real actions)の両方に整合させる(jointly-aligned)。 - 結果として遷移認識・行動中心の潜在空間を獲得し、異種人間データから学習。 - UniHand-Mix(7.5M動画、2000時間超)でスケール。

4. どうやって有効だと検証した?

- 制御環境と非制約環境の両方で、より現実的な手動作を生成することを実験で示した。 - シミュレーションと実世界のロボット操作タスクにおいて下流性能を大幅に改善。 - これらの結果から、人間データからのVLA事前学習のスケーラブルな経路を提供すると結論。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。関連手法として、Vision-Language-Action models (VLAs)、inverse dynamics、latent action learning、human manipulation video pretraining などが挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hao Luo, Ye Wang, Wanpeng Zhang, Haoqi Yuan, Yicheng Feng, Haiweng Xu, Sipeng Zheng, Zongqing Lu

分類: cs.RO

原文アブストラクト

Despite progress, Vision-Language-Action models (VLAs) are limited by a scarcity of large-scale, diverse robot data. While human manipulation videos offer a rich alternative, existing methods are forced to choose between small, precisely-labeled datasets and vast in-the-wild footage with unreliable hand tracking labels. We present JALA, a pretraining framework that learns Jointly-Aligned Latent Actions. JALA bypasses full visual dynamic reconstruction, instead learns a predictive action embedding aligned with both inverse dynamics and real actions. This yields a transition-aware, behavior-centric latent space for learning from heterogeneous human data. We scale this approach with UniHand-Mix, a 7.5M video corpus (>2,000 hours) blending laboratory and in-the-wild footage. Experiments demonstrate that JALA generates more realistic hand motions in both controlled and unconstrained scenarios, significantly improving downstream robot manipulation performance in both simulation and real-world tasks. These results indicate that jointly-aligned latent actions offer a scalable pathway for VLA pretraining from human data.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI