日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

強化学習/操作arXiv:2607.04265

HALO-WA: ハイブリッド注意機構と潜在変数ガイドによるオンライン強化学習を用いた世界行動モデル

HALO-WA: Hybrid-Attention Latent-Guided Online Reinforcement Learning for World-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

世界行動モデルによる精密操作の失敗を、潜在特徴と行動事前分布を利用した軽量なアクタークリティック適応器とハイブリッド注意機構でオンライン修正する手法を提案し、実機4タスクで成功率を大幅に向上させた。

詳しい要約

1. どんなもの?

HALO-WAは、World-Action (WA) モデルのためのハイブリッド注意機構と潜在変数ガイドを用いたオンライン強化学習フレームワークである。実世界の精密操作タスクにおいて、WAモデルが生成する長期的なアクションチャンクを、軽量なactor-criticアダプタを通じてオンライン適応させ、最終段階の位置合わせや挿入の誤差を修正する。

2. 先行研究と比べてどこがすごい?

従来のWAモデルは長期的なアクションチャンク生成が可能だが、実世界の精密タスクでは校正誤差や接触ダイナミクス誤差に脆弱で、最終数ミリメートルの精度で失敗することが多かった。HALO-WAは、WA生成過程の潜在特徴とアクション事前分布を活用し、オンラインRLで迅速に適応することで、この問題を解決する点が新しい。

3. 技術・手法の肝は?

手法の核は、ハイブリッド注意構造を導入し、アクションチャンクの時間的一貫性を保ちつつ、視覚的文脈と終盤の補正要件に基づいてWA潜在変数からタスク関連情報を読み取ることである。これにより、洗練されたアクションチャンクを生成する。また、軽量なactor-criticアダプタを用いて、WAモデルの生成過程から得られる潜在特徴とアクション事前分布を活用する。

4. どうやって有効だと検証した?

4つの実世界の精密操作タスクで検証し、平均成功率をWAベースの26.4%から87.1%に向上させた。最強のベースラインと比較して19.2パーセントポイント上回り、タスクあたり45〜75分のオンライントレーニングのみを必要とした。さらに、RoboTwinでの補助シミュレーション実験も実施し、コードを公開している。

5. 議論はある?

要旨からは、オンライントレーニング時間が短いことや成功率の向上が示されているが、一般化可能性や他のタスクへの適用性、潜在的な限界についての議論は明示されていない。また、実世界のタスクの詳細やベースラインの具体的な内容も要旨からは不明である。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、World-ActionモデルやオンラインRLを用いたロボット操作の研究が挙げられる。具体的には、RoboTwinシミュレーション環境に関する論文や、WAモデルの基盤となる研究が考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Angen Ye, Weijie Ke, Xiaofeng Wang, Xinze Chen, Chaojun Ni, Guosheng Zhao, Boyuan Wang, Zheng Zhu, Junjie Xie, Dapeng Zhang

分類: cs.RO, cs.AI

原文アブストラクト

World-action (WA) models can generate long-horizon action chunks for general-purpose robotic manipulation, but they remain vulnerable to calibration, perception, and contact-dynamics errors in real-world precision tasks, often failing in the final few millimeters of alignment or insertion. We propose HALO-WA, a hybrid-attention latent-guided online reinforcement learning (RL) framework for WA models, which leverages latent features and action priors from the WA generation process through a lightweight actor-critic adapter to enable fast online adaptation to real deployment errors. HALO-WA introduces a hybrid-attention structure that preserves the temporal consistency of action chunks while reading task-relevant information from WA latents conditioned on visual context and end-stage correction requirements, thereby producing refined action chunks. We validate HALO-WA on four real-world precision manipulation tasks, where it improves the average success rate from 26.4\% for WA-base to 87.1\%, outperforming the strongest baseline by 19.2 percentage points while requiring only 45--75 minutes of online training per task. To facilitate reproducibility, we further conduct supplementary simulation experiments in RoboTwin and release the code at https://github.com/YeanRoot/HALO-WA.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI