日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2610.16238

身体性スキルベンチマーク:身体性スキルを持つエージェントの物理タスク性能を評価する

Embodied Skill Bench: Benchmarking How Well Agents with Embodied Skills Perform on Physical Tasks

シェア:XThreadsFacebookLINEはてブBluesky

ロボットを制御するLLMエージェント向けに、身体性の前提と使用条件を明示した250のスキルを構築し、閉ループで性能を評価するベンチマークEmbodiedSkillBenchを提案。スキルは能力の補完に有効だが、強いエージェントにはコスト削減の役割に変わることを示した。

詳しい要約

1. どんなもの?

- LLM agentsがVLA policiesやperception models、procedural knowledgeを用いてロボットを制御する際、モジュールの再利用が困難で物理タスクでの効果も不明確な問題に対処。 - これらをembodied skillsとしてパッケージ化し、明示的なembodiment assumptionsとconditions of useを付与。 - 1,052 resourcesから250のaction, perception, experience skillsを構築。 - EmbodiedSkillBenchを導入し、closed observation-action loopでagentを実行し、success, actions, tokens, wall-clock timeを記録。 - native control, skill-only execution, Agent-Directed Reuse (ADR)の3モードをサポート。

2. 先行研究と比べてどこがすごい?

- 従来はモジュールのインターフェースやembodiment assumptions、利用条件が異なり再利用が難しく、物理タスクでの利点も不明瞭だった。 - 本研究はembodied skillsとして明示的な前提と利用条件を付与してパッケージ化し、ベンチマークで体系的に評価。 - ADRモードを提案し、agentがnative controlsを保持しつつ各skillをinvoke, modify, ignoreするかを判断可能にした点が新しい。 - 100 perturbed LIBERO-Pro tasksで4 agentを評価し、skillの効果がagentの既存能力を超える範囲に依存することを示した。

3. 技術・手法の肝は?

- embodied skillsをaction, perception, experienceの3種に分類し、1,052 resourcesから250 skillsを構築。 - 各skillにembodiment assumptionsとconditions of useを明示。 - EmbodiedSkillBenchはclosed observation-action loopでagentを実行し、success, actions, tokens, wall-clock timeを記録。 - 3モード: native control、skill-only execution、Agent-Directed Reuse (ADR)。 - ADRではagentがnative controlsを維持し、各skillについてinvoke, modify, ignoreを選択。

4. どうやって有効だと検証した?

- 100 perturbed LIBERO-Pro tasks上で4 agent (GPT-5.6-Sol, Kimi-K3, Claude-Opus-5, GPT-6-Astra)を評価。 - skill-only executionでGPT-5.6-Solが11%から63%に向上、Kimi-K3とClaude-Opus-5は約20ポイント向上、token使用量は58%から85%削減。 - しかし全4 agentは61%から64%に収束し、GPT-6-Astraはnative controlの92%から61%に低下。 - ADR下でGPT-6-Astraは85%に回復し、native controlから7ポイント以内、token 14.1%削減、時間11.9%削減。 - Jevをskillとして用いると81%に達し、token 50%削減、時間57%削減。

5. 議論はある?

- skillsはagentが既にできることを超える範囲でのみ役立つ。 - agentが強くなるにつれ、embodied skillsの役割は不足能力の補完からコスト削減へ移行。 - GPT-6-Astraはnative controlでほとんどのタスクを解決するため、skillsに制限すると差し引きで損失が大きい。 - ADRによりnative controlを保持しつつ選択的にskillsを呼ぶことで、性能を回復しつつコスト削減が可能。 - ただし要旨からは、他のagentやタスクでの一般性や失敗事例の詳細は不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: LIBERO-Pro, VLA policies, LLM agents, GPT-5.6-Sol, Kimi-K3, Claude-Opus-5, GPT-6-Astra, Jev。 - 関連手法としてembodied skills, Agent-Directed Reuse (ADR), native control, skill-only execution。 - 同分野の定番としてrobot learning, vision-language-action models, embodied AI benchmarks。 - 具体的な論文タイトルは要旨に明記されていないため、これらをキーワードに次に読むべき論文を探索することを推奨。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zhi Han, Zihan Guo, Chenxi Zeng, Zicai Cui, Yue Xin, Ming Zhou, Dongzhan Zhou, Weinan Zhang, Yang Li

分類: cs.RO

原文アブストラクト

LLM agents increasingly control robots using VLA policies, perception models, and procedural knowledge. These modules are difficult to reuse because their interfaces, embodiment assumptions, and conditions of use differ, and their benefits on physical tasks remain unclear. We package them as embodied skills that extend agent skills with explicit embodiment assumptions and conditions of use, building 250 action, perception, and experience skills from 1,052 resources. On this basis we introduce EmbodiedSkillBench, which runs an agent in a closed observation-action loop and records success, actions, tokens, and wall-clock time. It supports three modes: native control, skill-only execution, and Agent-Directed Reuse (ADR), a mode we propose in which the agent keeps its native controls and decides for each skill whether to invoke, modify, or ignore it. Across four agents on 100 perturbed LIBERO-Pro tasks, we find that skills help an agent only as far as they exceed what it can already do. Skill-only execution lifts GPT-5.6-Sol from 11% to 63% and Kimi-K3 and Claude-Opus-5 by about 20 points, while cutting their token usage by 58% to 85%. Yet all four agents then end up between 61% and 64%, and GPT-6-Astra falls from 92% under native control to 61%. This suggests that as agents grow stronger, the role of embodied skills shifts from supplying missing capability to reducing cost: GPT-6-Astra already solves most tasks through native control, so restricting it to skills removes more than it adds. Under ADR, which lets it keep native control and call skills selectively, GPT-6-Astra recovers to 85%, within 7 points of native control, while using 14.1% fewer tokens and 11.9% less time. With Jev as a skill choosing motion directions and gripper actions, it reaches 81% with 50% fewer tokens and 57% less time. The code is available at https://github.com/HanZhi306/EmbodiedSkill-Bench.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI