日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ロボット基盤モデルarXiv:2611.12102

SPARK: 事前学習済み知識をロボット制御に適応させる簡易ポストトレーニング

SPARK: Simple Post-training for Adapting pRetrained Knowledge to Robot Control

シェア:XThreadsFacebookLINEはてブBluesky

大規模基盤モデルの視覚特徴を、時間変化や行動に関わる情報を保ちながらロボット制御向けに適応させるポストトレーニング手法を提案し、複数ベンチマークと実機マニピュレーションで成功率と汎化性能の向上を示した。

詳しい要約

1. どんなもの?

- 大規模事前学習済みの基盤モデル(foundation models)をロボット制御向けに適応させるpost-training手法「SPARK」を提案した研究。 - 視覚エンコーダから、時間変化や行動に関連するシーン構造を保つコンパクトな視覚状態表現を得ることを狙う。 - ゼロからの学習ではなく、公開基盤モデルの知識を活かす枠組み。

2. 先行研究と比べてどこがすごい?

- 基盤モデルのpretraining目的はロボット表現学習向けに設計されておらず、埋め込みが時間的に敏感な制御向け表現より大域的な意味論に偏る問題を指摘。 - ロボットデータは規模・収集コストの制約があり、スクラッチ学習や大規模pretrainingは計算負荷が大きい。 - SPARKはこれらに対し、既存基盤モデルをpost-trainingで適応させる軽量な代替を提示。

3. 技術・手法の肝は?

- 2つの原則に基づく。第一にtemporal abstraction:エンコーダが時間変化の理解と行動に関連するシーン構造に必要な情報を保つコンパクトな特徴を導出するよう促す。 - 第二にknowledge preservation:patch-level表現を元の基盤モデルの表現に整合させ、有用なpretrained semanticsを保持する。 - これらにより、意味的に有意でありつつ事前知識を保つコンパクトな視覚状態表現を得る。

4. どうやって有効だと検証した?

- 複数のrobotics benchmarksで実験し、vanilla foundation modelsと比較してsuccess ratesとgeneralizationを一貫して改善することを示した。 - さらに、これらの改善が実世界のrobot manipulationにも転移することを実証した。

5. 議論はある?

- 要旨からは不明(限界や失敗事例、計算コストの詳細な議論は要旨に記載なし)。 - 示されている範囲では、複数ベンチマークと実機manipulationでの有効性が主張されている。

6. 次に読むべき論文は?

- 比較対象として言及されるvanilla foundation models(具体的なモデル名は要旨からは不明)。 - 関連手法として、ロボット表現学習向けのvisual representation learningや、foundation modelsのrobot controlへの適応に関する研究(具体的な論文名は要旨からは不明)。 - 同分野の定番として、robot manipulation向けのimitation learningやvision-language-actionモデル関連の研究を参照するのが有用。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Taekyung Kim, Jeongeun Park, Byeongho Heo, Sungjoon Choi, Sangdoo Yun, Dongyoon Han

分類: cs.RO, cs.CV

原文アブストラクト

Large-scale representation learning has produced public foundation models that provide strong general-purpose visual features. However, their pretraining objectives are not designed for robot representation learning, so the resulting embeddings tend to emphasize global semantics rather than the temporally sensitive representations required for robot control. Training robot models from scratch is also undesirable due to the limited scale and high collection cost of robotics data, as well as the substantial computational burden of pre-training. In this paper, we propose SPARK (Simple Post-training for Adapting pRetrained Knowledge), a post-training method that adapts foundation models to robot control. SPARK is built on two principles: temporal abstraction, which encourages the encoder to derive compact features that preserve information essential for understanding temporal changes and action-relevant scene structure, and knowledge preservation, which aligns patch-level representations with those of the original foundation model to retain useful pretrained semantics. These objectives yield compact visual state representations that remain semantically meaningful while preserving useful prior knowledge. Experiments across multiple robotics benchmarks show that SPARK consistently improves success rates and generalization over vanilla foundation models, and further demonstrate that these gains transfer to real-world robot manipulation.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI