日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

sim2realarXiv:2609.38982

SimEX: シミュレーション統合型ロボティクス自動研究フレームワーク

SimEX: Simulation-Integrated Robotics AutoResearch

シェア:XThreadsFacebookLINEはてブBluesky

LLMコーディングエージェントがシミュレーション内で試行錯誤してロボットツールボックスを構築し、少数の実機試行でシミュレータを校正しながら実ロボットの操作スキルを効率的に獲得する自動研究フレームワーク。

詳しい要約

1. どんなもの?

- 大規模言語モデル(LLM)ベースのコーディングエージェントが、実ロボットを制御する物理能力を効率的に獲得するための自動研究フレームワーク「SimEX」を提案。 - シミュレーション実験を密に統合し、2段階で動作する。 - 第1段階:シミュレーション内でオープンエンドなprobe-and-optimize反復を行い、ロボットツールボックスを構築。 - 第2段階:少数の物理試行でツールボックスとシミュレータを同時適応。各試行がシミュレータを修正し、修正済みシミュレータで失敗診断と候補修復の選別を行う。 - 実世界のマニピュレーションタスク(タオル折り、バーコードスキャン、皿操作)で、デモンストレーションなし・実ロボット相互作用10分のみでスキル獲得を実現。

2. 先行研究と比べてどこがすごい?

- 直接生成手法(例:Code as Policies)は、LLMがロボットや物理環境を十分理解できない問題があった。 - 物理世界での反復試行錯誤チューニング(例:physical autoresearch)は、実験コストと安全性の懸念が大きかった。 - SimEXはシミュレーションを統合することで、これらの課題を回避し、実ロボット制御能力を効率的に獲得できる点が優れている。 - シミュレーションを実世界を忠実に再現する訓練データ源としてだけでなく、コーディングエージェントがロボット行動に必要な知識と手順を開発する「おおよそ正しい実験室」として活用する点が新しい。

3. 技術・手法の肝は?

- 2段階の自動研究フレームワーク。 - 第1段階:シミュレーション内でオープンエンドなprobe-and-optimize反復を実施し、堅牢で汎化可能な能力を持つロボットツールボックスを開発。 - 第2段階:少数の物理試行でツールボックスとシミュレータを同時適応。各物理試行がシミュレータを修正し、修正されたシミュレータを用いて失敗を診断し、候補となる修復を選別。 - これにより、実ロボットとの相互作用を最小限に抑えつつ、シミュレーションを活用して効率的にスキルを獲得。

4. どうやって有効だと検証した?

- sim-to-sim設定および実ロボットで広範に評価。 - 実世界の困難なマニピュレーションタスク(タオル折り、バーコードスキャン、皿操作)において、デモンストレーションなし、実ロボット相互作用10分のみでコーディングエージェントがロボットスキルを効率的に獲得できることを示した。 - 詳細とロボット動画は https://robo-simex.github.io/ で公開。

5. 議論はある?

- シミュレーションが物理的知能を達成するための重要な要素となり得ることを示唆。 - シミュレーションは実世界を忠実に再現する訓練データ源としてだけでなく、コーディングエージェントがロボットに作用するために必要な知識と手順を開発する、おおよそ正しい実験室としても機能する。 - 具体的な限界や今後の課題については要旨からは不明。

6. 次に読むべき論文は?

- Code as Policies(直接生成手法の代表例) - physical autoresearch(物理世界での反復試行錯誤チューニング) - その他、要旨で参照されている研究や関連手法は明示されていないため、同分野の定番として sim-to-real transfer、domain randomization、LLM-based robotics などが考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jiaheng Hu, Roberto Martin-Martin, Peter Stone, Rocky Duan, Zhenyu Jiang, Guanya Shi

分類: cs.RO, cs.AI, cs.LG

原文アブストラクト

Coding agents powered by large language models (LLMs) have shown remarkable abilities to autonomously reason about and achieve goals in the digital world. However, bringing this success to the physical world remains challenging. On the one hand, direct generation methods (e.g., Code as Policies) often suffer from the LLMs' insufficient understanding of robots and physical environments. On the other hand, iterative trial-and-error tuning in the physical world (e.g., physical autoresearch) induces significant experimental cost and safety concerns. We introduce SimEX: Simulation-Integrated Robotics AutoResearch, an autoresearch framework that tightly integrates simulated experimentation, enabling coding agents to efficiently acquire physical capabilities for controlling real robots. SimEX operates in two stages. First, the agent conducts open-ended probe-and-optimize iterations in simulation, developing a robot toolbox with robust and generalizable capabilities. Second, the agent adapts the toolbox and the simulator together through only a few physical trials: each trial corrects the simulator, and the corrected simulator is used to diagnose failures and screen candidate repairs. We evaluate SimEX extensively in sim-to-sim settings and on physical robots. On challenging real-world manipulation tasks including towel folding, barcode scanning, and plate manipulation, SimEX enables coding agents to efficiently acquire robot skills without any demonstration and with only 10 minutes of real-robot interaction. These results suggest that simulation can be a critical component in achieving physical intelligence, not only as a source of training data that must closely replicate the real world, but also as a roughly correct laboratory where a coding agent develops the knowledge and procedures needed to act on the robot. More details and robot videos at https://robo-simex.github.io/

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI