日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

空中マニピュレーションarXiv:2610.12549

コード飛行:能動的な視覚・物理フィードバックによる空中マニピュレーションのための身体性コーディングエージェント

Fly-by-Code: Embodied Coding Agents for Aerial Manipulation with Active Visual and Physical Feedback

シェア:XThreadsFacebookLINEはてブBluesky

空中マニピュレーションでは視野制限や動的結合により実行フィードバックが不十分になる問題に対し、未観測の結果を確認する「View」と失敗仮説を検証する「Probe」からなる能動フィードバックを導入し、タスク成功率を31.7%から75%に改善した。

詳しい要約

1. どんなもの?

本論文は、自然言語指示から実行可能プログラムを生成し、実行フィードバックで改良する Embodied Coding Agents を Aerial Manipulation に適用する研究。Aerial Manipulation では payload 制約により onboard camera の視野が限られ、task-critical な結果が視野外になる partial observability と、強い dynamic coupling と限られた control margin による fragile な物理相互作用(limited interaction robustness)が生じ、実行フィードバックだけでは失敗原因が未解決になる。そこで Active Feedback (AF) という active "View and Probe" フレームワークを導入し、未解決の問いに対して simulation 上で診断プログラムを合成し、未観測の結果を情報量の多い視点から調べる View と、失敗原因の仮説を標的型物理相互作用で検証する Probe を行う。

2. 先行研究と比べてどこがすごい?

従来の Embodied Coding Agents は、実行フィードバックがタスク成功の有無を明らかにし、失敗後にはプログラム改訂を導く十分な証拠を与えると仮定していた。Aerial Manipulation では partial observability と limited interaction robustness のためこの仮定が崩れ、同じフィードバックを再検討しても未収集の観測は回復できず、利用可能な証拠では区別できない失敗原因も分離できない。AF は不足する証拠を能動的に取得する点で先行研究と異なる。

3. 技術・手法の肝は?

AF は active "View and Probe" フレームワーク。実行フィードバックが未解決の問いを残すとき、agent は simulation で動作する別個の diagnostic program を合成する。View では未観測の結果を情報量の多い視点から検査し、Probe では標的型物理相互作用を通じて失敗原因の仮説を検証する。これにより executable diagnosis が実行フィードバックのギャップを埋める。

4. どうやって有効だと検証した?

6 つの simulated aerial manipulation tasks で各条件 60 trials を実施。同じ coding-agent 構成と同じ task-execution limit の下で、terminal feedback と比較して AF は false completion declarations を 25 から 5 に減らし、final task success を 31.7% から 75% に向上させた。さらに shared robot APIs を用い、simulation で AF により改良された task programs が task-program source-code の修正なしに physical aerial manipulator 上で動作し、実世界で multi-stage manipulation tasks を完了した。

5. 議論はある?

結果は、executable diagnosis が embodied coding agents の実行フィードバックのギャップを埋め、aerial manipulation における completion assessment と program refinement の両方を改善することを示す。一方、要旨からは AF の計算コスト、sim-to-real ギャップ、他のロボット系への一般化可能性、失敗モードの限界については不明。

6. 次に読むべき論文は?

要旨で参照/比較されているのは terminal feedback と Embodied Coding Agents の既存手法。関連手法として executable program synthesis、sim-to-real transfer、active perception、aerial manipulation の研究が挙げられる。具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jaewoo Lee, Jeongyeon Seo, Sihyun Cho, Gyeongrak Choe, Yutong Wang, Bavin Saravanan, Jia-Bin Huang, Furong Huang, Sebastian Scherer, Guanya Shi, H. Jin Kim, Seungjae Lee, Dongjae Lee

分類: cs.RO, cs.CV, cs.LG

原文アブストラクト

Embodied coding agents construct robot policies from natural-language instructions by generating executable programs and refining them from execution feedback. This refinement assumes that execution feedback reveals whether the task succeeded and, after a failure, provides sufficient evidence to guide program revision. Aerial manipulation violates this assumption in two ways. Payload constraints restrict onboard camera coverage and leave task-critical outcomes outside the robot's view (partial observability), while strong dynamic coupling and limited control margins make physical interactions fragile (limited interaction robustness) and leave failure causes unresolved. Re-examining the same feedback cannot recover observations that were never collected or separate failure causes that the available evidence does not distinguish. To acquire this missing evidence, we introduce Active Feedback (AF), an active "View and Probe" framework. When execution feedback leaves unresolved questions, the agent synthesizes a separate diagnostic program that runs in simulation to inspect unseen outcomes from informative viewpoints (View) or test hypotheses about failure causes through targeted physical interactions (Probe). Across six simulated aerial manipulation tasks with 60 trials per condition, AF reduces false completion declarations from 25 to 5 and raises final task success from 31.7% to 75% compared with terminal feedback under the same coding-agent configuration and task-execution limit. Using shared robot APIs, task programs refined with AF in simulation run on a physical aerial manipulator without task-program source-code modification and complete multi-stage manipulation tasks in the real world. These results show that executable diagnosis fills gaps in execution feedback for embodied coding agents, improving both completion assessment and program refinement in aerial manipulation.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI