日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

模倣学習arXiv:2506.19121

CUPID: 影響関数でロボットが好むデータを選別

CUPID: Curating Data your Robot Loves with Influence Functions

シェア:XThreadsFacebookLINEはてブBluesky

模倣学習において、各デモンストレーションが方策の性能に与える影響を影響関数で推定し、有害なデータを除去・有益なデータを選択するデータキュレーション手法を提案。

詳しい要約

1. どんなもの?

- ロボットの模倣学習(imitation learning)におけるデータキュレーション手法 CUPID の提案 - 各デモンストレーションが方策(policy)の閉ループ性能に与える影響を推定し、データの選別・選定を行う - 評価ロールアウト(evaluation rollouts)を入力として、訓練デモの影響度をランキングする - シミュレーションと実機(hardware)の両方で検証している

2. 先行研究と比べてどこがすごい?

- 従来はデモの品質・構成と方策性能の関係を精密に理解することが困難だった - CUPID は influence function 理論を模倣学習向けに新規定式化し、個々のデモの寄与を定量化 - 閉ループのタスク成否・期待リターン(expected return)への影響を直接推定できる点が特徴 - 33%未満のキュレーションデータで RoboMimic 上の diffusion policy が state-of-the-art に到達 - 実機でも同様の利得が観察され、分布シフト下の頑健戦略の特定や spurious correlations の切り分けも可能

3. 技術・手法の肝は?

- influence function に基づく模倣学習方策向けの新規理論的定式化 - 評価ロールアウト群から各訓練デモの期待リターンへの影響を推定 - 影響度に基づきデモをランキング・選択 - 用途は2つ: 1) 性能を害するデモの除去、2) 新規収集トラジェクトリのうち改善に効くもののサブセレクション

4. どうやって有効だと検証した?

- シミュレーションと実機(hardware)の双方で実験 - RoboMimic ベンチマークで diffusion policy を用い、33%未満のキュレーションデータで state-of-the-art を達成 - 実機でも同様の利得を確認 - 分布シフト下の頑健戦略の特定、spurious correlations の切り分け、generalist robot policies の post-training 強化を実機で示す

5. 議論はある?

- 要旨からは不明(具体的な限界・失敗事例・計算コストの議論は記述なし) - 評価ロールアウトへの依存性や influence function 推定の前提条件についての議論は要旨からは不明

6. 次に読むべき論文は?

- diffusion policy(比較対象の基盤方策) - RoboMimic(ベンチマーク) - influence functions(理論的基礎) - imitation learning におけるデータ選択・キュレーションの関連研究(要旨では個別名の参照なし)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Christopher Agia, Rohan Sinha, Jingyun Yang, Rika Antonova, Marco Pavone, Haruki Nishimura, Masha Itkina, Jeannette Bohg

分類: cs.RO, cs.AI, cs.LG

原文アブストラクト

In robot imitation learning, policy performance is tightly coupled with the quality and composition of the demonstration data. Yet, developing a precise understanding of how individual demonstrations contribute to downstream outcomes - such as closed-loop task success or failure - remains a persistent challenge. We propose CUPID, a robot data curation method based on a novel influence function-theoretic formulation for imitation learning policies. Given a set of evaluation rollouts, CUPID estimates the influence of each training demonstration on the policy's expected return. This enables ranking and selection of demonstrations according to their impact on the policy's closed-loop performance. We use CUPID to curate data by 1) filtering out training demonstrations that harm policy performance and 2) subselecting newly collected trajectories that will most improve the policy. Extensive simulated and hardware experiments show that our approach consistently identifies which data drives test-time performance. For example, training with less than 33% of curated data can yield state-of-the-art diffusion policies on the simulated RoboMimic benchmark, with similar gains observed in hardware. Furthermore, hardware experiments show that our method can identify robust strategies under distribution shift, isolate spurious correlations, and even enhance the post-training of generalist robot policies. Videos and code are made available at: https://cupid-curation.github.io.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI