日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

模倣学習arXiv:2603.07530

視覚的推論を用いた文脈内模倣学習

ICLR: In-Context Imitation Learning with Visual Reasoning

シェア:XThreadsFacebookLINEはてブBluesky

ロボットが少数のデモから新しいタスクを適応学習する際、視覚的な推論トレースをプロンプトに追加し、行動予測と推論過程を同時に学習するフレームワークを提案。シミュレーションと実世界で成功率と汎化性能が向上した。

詳しい要約

1. どんなもの?

- どんなもの? - ロボットのin-context imitation learningフレームワーク「ICLR」を提案。 - 少数のdemonstrationから追加学習なしで新規タスクに適応。 - 従来はstate-action trajectoriesのみを条件とし、タスク意図の明示的表現が欠如。 - 同一行動が異なる目的と整合しうる複雑・曖昧な設定で性能が制限される問題に対処。 - demonstration promptsに、画像空間での将来のロボットtrajectoryを表すstructured visual reasoning tracesを追加。 - 統一autoregressive transformer内でreasoning tracesと低レベルactionsを同時学習。 - 行動予測だけでなく、行動に至るreasoning processも模倣可能。

2. 先行研究と比べてどこがすごい?

- 先行研究と比べてどこがすごい? - 既存のin-context imitation learningはstate-action trajectoriesのみに条件付けし、タスク意図の明示的表現を欠く。 - ICLRはvisual reasoning tracesをdemonstration promptsにaugmentし、意図を画像空間で明示。 - 同一行動が異なる目的と整合しうる複雑・曖昧な設定での性能制限を緩和。 - 統一autoregressive transformerでreasoning tracesと低レベルactionsをjointly learning。 - 行動予測に加え、行動に至るreasoning processも模倣。 - simulationとreal-world manipulation tasksで、他のin-context imitation learning手法と比較しsuccess ratesとgeneralizationが一貫して改善。

3. 技術・手法の肝は?

- 技術や手法の肝はどこ? - demonstration promptsにstructured visual reasoning tracesを追加。 - visual reasoning tracesは画像空間での将来のロボットtrajectoryを表す。 - 統一autoregressive transformer内でreasoning tracesと低レベルactionsをjointly learning。 - モデルは行動予測だけでなく、行動に至るreasoning processも模倣。 - これによりタスク意図の明示的表現を獲得し、複雑・曖昧な設定での性能向上を狙う。

4. どうやって有効だと検証した?

- どうやって有効だと検証した? - simulationとreal-world manipulation tasksの両方でICLRをextensively evaluate。 - 他のin-context imitation learning methodsと比較。 - success ratesと、unseen tasksおよびnovel object configurationsへのgeneralizationで一貫した改善を確認。 - 結果はembodied visual reasoningの導入がロボットin-context learningシステムのrobustnessとgeneralizationを高める有望な方向であることを示唆。

5. 議論はある?

- 議論はある? - 要旨からは不明。 - 限界や失敗事例、計算コスト、real-worldでの安全性などに関する議論は要旨に記載なし。

6. 次に読むべき論文は?

- 次に読むべき論文は? - 要旨で参照/比較されている具体的な研究名は記載なし。 - 関連手法としてin-context imitation learning、visual reasoning、autoregressive transformer、robot manipulationの定番研究を挙げる。 - 例:in-context imitation learningの代表的手法、visual reasoningをロボットに応用した研究、autoregressive transformerによる行動生成研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Toan Nguyen, Weiduo Yuan, Songlin Wei, Hui Li, Daniel Seita, Yue Wang

分類: cs.RO

原文アブストラクト

In-context imitation learning enables robots to adapt to new tasks from a small number of demonstrations without additional training. However, existing approaches typically condition only on state-action trajectories and lack explicit representations of task intent. This limitation hinders performance in complex and ambiguous task settings where the same actions may be consistent with different objectives. To address this, we present In-Context Imitation Learning with Visual Reasoning (ICLR), a novel framework that augments demonstration prompts with structured visual reasoning traces representing anticipated future robot trajectories in image space. ICLR also jointly learns to generate reasoning traces and low-level actions within a unified autoregressive transformer, enabling the model to mimic not only action prediction but also the reasoning process that leads to those actions. We extensively evaluate ICLR in both simulation and real-world manipulation tasks and demonstrate consistent improvements in success rates and generalization to unseen tasks and novel object configurations compared to other in-context imitation learning methods. These results suggest that incorporating embodied visual reasoning represents a promising direction for enhancing the robustness and generalization of robotic in-context learning systems.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI