日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

操作学習arXiv:2608.05674

JoyAI-RA 0.5: デュアルアクションアライメントによるロボット操作学習のスケーリング

JoyAI-RA 0.5: Scaling Robot Manipulation Learning via Dual Action Alignment

シェア:XThreadsFacebookLINEはてブBluesky

人間の映像データやシミュレーション、実ロボットなど異なるデータソースを統合してロボット操作を学習するためのフレームワークを提案し、潜在アクションの推論と統一アクション空間への変換により、データの多様性を活かして汎用ポリシーの性能を向上させる。

詳しい要約

1. どんなもの?

JoyAI-RA 0.5は、ロボット操作学習をスケールさせるための汎用Vision-Language-World-Action (VLWA)フレームワークである。人間のエゴセントリックビデオ、シミュレーション、実ロボットなど、異なるデータソースからの学習を可能にし、アクションラベルが欠如または非互換なデータを扱う。デュアルアクションアライメントにより、物理世界のダイナミクス事前知識と視覚セマンティクスを結合し、操作学習をスケールさせる。

2. 先行研究と比べてどこがすごい?

従来の一般主義ポリシーは、異種データソースを単純にプールすると負の転移を引き起こす問題があった。JoyAI-RAは、暗黙的アクションアライメントと明示的アクションアライメントの2段階を導入し、アクションラベルなしのデータ(人間ビデオなど)を活用して物理ダイナミクスの学習を可能にし、人間のエゴセントリックデータを単なる弱い補助源ではなく、操作能力をスケールさせる主要な軸として変換できる点が新しい。

3. 技術・手法の肝は?

手法の肝は、デュアルアクションアライメントにある。暗黙的アクションアライメントは、視覚的遷移から潜在アクションを推論し、アクションフリーのデータを潜在アクション条件付きワールドモデルの学習に活用する。明示的アクションアライメントは、正準アクション表現とカメラフレームチャンク相対エンドエフェクタアクションを用いて、信頼できる人間とロボットの軌跡を統一された物理アクション空間に接地する。さらに、インナーアウターループ強化学習段階により、効率的なタスク適応と基盤ポリシーの改善を組み合わせる。

4. どうやって有効だと検証した?

実世界のAgiBotベンチマークで評価し、既知タスクと未知のバリエーションの両方で強い性能を示した。また、人間のエゴセントリックな事前学習データ量を増やすとタスクスコアが一貫して向上し、最大スケールでもプラトーに達する兆候が見られないことを確認した。

5. 議論はある?

要旨からは、人間のエゴセントリックデータが転移可能な訓練信号に変換できることを示唆しているが、具体的な限界や議論(例えば、データの多様性、計算コスト、実世界での安全性など)については言及されていない。また、他のベースラインとの比較や、負の転移がどの程度軽減されたかの詳細な分析は要旨からは不明。

6. 次に読むべき論文は?

要旨で参照されている研究は明示されていないが、関連する分野として、Vision-Language-Actionモデル、ロボット操作のための模倣学習、人間のビデオからのロボット学習、ワールドモデル、強化学習と基盤モデルの統合などが挙げられる。具体的には、RT-2やOctoなどの既存のロボット基盤モデル、および人間のビデオを活用した研究(例えば、VideoGPTやVideoMAE)が関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: RA Team

分類: cs.RO

原文アブストラクト

Robot data is scarce, so generalist policies need to learn from heterogeneous sources, including human egocentric video, simulation, and real robots, which differ in supervision and embodiment, with action labels missing or mutually incompatible. Human egocentric data scale best but sit farthest from robot data, and naive pooling causes negative transfer rather than knowledge sharing. We propose JoyAI-RA 0.5, a generalist Vision-Language-World-Action (VLWA) framework that couples physical world-dynamics priors with visual semantics and scales manipulation learning across such data via dual action alignment. Implicit action alignment infers latent actions from visual transitions, enabling action-free human, simulation, and robot data to guide a latent-action-conditioned world model in learning physical dynamics. Explicit alignment grounds reliable human and robot trajectories in a unified physical action space through a canonical action representation and camera-frame chunk-relative end-effector actions. An inner-outer-loop reinforcement stage then pairs efficient task adaptation with foundation-policy improvement. On a real-world AgiBot benchmark, JoyAI-RA performs strongly on both seen tasks and unseen variations. The task score improves consistently as the volume of human egocentric pretraining data increases and shows no sign of plateauing at our largest scale. This suggests that abundant but weakly labeled human experience can be converted into a transferable training signal, making human video not merely a weak auxiliary source but a primary axis along which manipulation capability can be scaled. Project page can be found at https://joyai-ra-05.github.io/.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI