日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

English週刊ニュースレター購読
模倣学習arXiv:2611.00283

検証損失は実機ロボットの成功を予測できるか：低コストアームにおける4つの模倣学習ポリシーの証拠

Does Validation Loss Predict Real-Robot Success? Evidence from Four Imitation-Learning Policies on a Low-Cost Arm

シェア:XThreadsFacebookLINEはてブBluesky

SO-101アームのピック・アンド・プレースで4種の模倣学習ポリシーを訓練し、ホールドアウト検証損失と実機ベンチでの成功率の関係を930回のロールアウトで検証した。

詳しい要約

1. どんなもの？

- 実ロボットの closed-loop 成功と held-out validation loss の関係を測る実証研究。 - 対象: ACT, Diffusion Policy, SmolVLA, π_{0.5} (action expert only)。 - タスク: SO-101 arm 上の pick-and-place、12〜200 demonstrations の nested subsets で学習。 - 82 checkpoints を 25 held-out demonstrations で採点し、930 bench rollouts と比較。 - 70 training runs の全 700 intermediate checkpoints も採点し、front camera から ball positions を復元。

2. 先行研究と比べてどこがすごい？

- held-out validation loss は checkpoint 選択やモデル比較の標準 offline signal だが、実ロボット closed-loop 成功との関係はほとんど測られていない。 - 本研究は 4 policies・複数データ量・多数 checkpoints・大量 rollouts で体系的に比較した点が新しい。 - 単一 policy 内では hold-out action error が bench success と相関するが、training episodes 数単独を超えない。 - 同一データの seeds 間では相関なし、policy 間では順位が反転 (ρ = +0.90 at 200 episodes)。

3. 技術・手法の肝は？

- 12〜200 demonstrations の nested subsets で 4 policies を学習。 - ACT, Diffusion Policy, SmolVLA, π_{0.5} (action expert only)。 - 82 checkpoints を 25 held-out demonstrations で採点 (training loss と出力 action error)。 - 930 bench rollouts と比較し、70 runs の 700 intermediate checkpoints も採点。 - front camera から全 training/held-out/bench episode の ball positions を復元。 - 失敗を initiation failure (arm が rest pose から動かない) と started rollouts の成功に分けて分析。

4. どうやって有効だと検証した？

- 930 bench rollouts との比較で held-out metrics の予測性を検証。 - 同一 policy 内: hold-out action error と bench success の Spearman ρ は -0.23〜-0.88。 - 同一データの seeds 間では相関なし。 - policy 間では順位反転 (ρ = +0.90 at 200 episodes)、最低 hold-out error の policy は 110 rollouts 中 3 成功。 - 動いた rollouts に限れば SmolVLA の hold-out action error は良好に予測 (ρ = -0.81)。

5. 議論はある？

- 最も多い失敗は arm が rest pose から動かない initiation failure。 - Diffusion Policy (untrimmed demonstrations) で rollouts の 96%、SmolVLA で 47% を占める。 - この失敗は demonstrations 由来の hold-out set では発生し得ない。 - diffusion/flow-matching では training 中に hold-out loss が 2〜5 倍上昇する一方、hold-out action error は最大 29% 低下。 - 結論: held-out metrics は学習の診断には有効だが、実ロボット評価の代替にはならない。 - 推奨: initiation failure と started rollouts の成功を別々の bench outcome として報告。

6. 次に読むべき論文は？

- ACT - Diffusion Policy - SmolVLA - π_{0.5} (action expert only) - flow-matching 系 policy - held-out validation loss と closed-loop 評価の関係を扱う実ロボット研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Simon Cowling

分類: cs.RO

原文アブストラクト

Held-out validation loss is the standard offline signal for choosing checkpoints and comparing models, but its relation to closed-loop success on a real robot is rarely measured. We measure it for ACT, Diffusion Policy, SmolVLA and $π_{0.5}$ (action expert only), trained on nested subsets of 12 to 200 demonstrations of a pick-and-place task on an SO-101 arm. We score 82 checkpoints on 25 held-out demonstrations, with each policy's training loss and with the error of the actions it outputs, and compare the scores with 930 bench rollouts. We also score all 700 intermediate checkpoints of 70 training runs, and recover the ball positions of every training, held-out and bench episode from the front camera. Within each policy, hold-out action error correlates with bench success (Spearman $ρ$ from -0.23 to -0.88), but no more strongly than the number of training episodes alone, and not at all among seeds trained on the same data. Across policies the ranking is inverted ($ρ$ = +0.90 at 200 episodes): the policy with the lowest hold-out error succeeded in 3 of 110 rollouts. The most common failure, the arm never leaving its rest pose, ended 96% of rollouts for Diffusion Policy trained on untrimmed demonstrations and 47% for SmolVLA, and cannot occur in a hold-out set made of demonstrations. Among rollouts in which the arm moved, SmolVLA's hold-out action error predicts success well ($ρ$ = -0.81). For the diffusion and flow-matching policies, hold-out loss rises two- to five-fold during training while hold-out action error falls by up to 29%. Held-out metrics are a sound diagnostic of learning but no substitute for evaluation on the robot, and we recommend reporting initiation failure and success among started rollouts as separate bench outcomes.

arXivで原文を読む →arXiv概要ページ

関連論文

← 論文一覧

今週よく読まれている記事

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大　最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携　2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM（ミニPC）

MINISFORUM（ミニPC）の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI
双腕モバイルマニピュレーターOpenShellの実機とお披露目フライヤー

双腕モバイルマニピュレーター OpenShell

人と働くために、顔がある。

OpenShellの特徴・実機を見る →