日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

模倣学習arXiv:2508.01167

T2S: 生涯模倣学習のためのトークン化スキルスケーリング

T2S: Tokenized Skill Scaling for Lifelong Imitation Learning

シェア:XThreadsFacebookLINEはてブBluesky

モデルパラメータをトークン化し、言語ガイド付きでスキルを拡張することで、破滅的忘却を防ぎつつ新しいスキルを効率的に学習する生涯模倣学習フレームワークを提案。

詳しい要約

1. どんなもの?

- 生涯模倣学習(lifelong imitation learning)における、過去スキルの破滅的忘却(catastrophic forgetting)の抑制と新規スキル獲得の容量確保の両立を目指す統一フレームワーク - 名称は Tokenized Skill Scaling (T2S) - モデルパラメータを token 化し、新規 token の追加でスケール可能にする枠組み - 言語ガイド付きの skill scaling によりタスク間の知識転移を行う - 多様なタスクで評価され、忘却抑制・新スキル拡張・知識転移の三側面を示す

2. 先行研究と比べてどこがすごい?

- 従来手法は忘却抑制と新規スキル獲得を個別に扱い、生涯スキル獲得における両者の内的相関を見落としていた - T2S は両者を統一フレームワークで扱う点が差異 - 従来の Transformer の線形パラメータ写像を、入力と学習可能 token 間の cross-attention に置き換えることで拡張性を高める - 言語ガイド付き skill scaling によりパラメータの線形増加を避けつつ知識転移を図る点が特徴 - 具体的な先行研究名は要旨からは不明

3. 技術・手法の肝は?

- モデルパラメータの token 化が中核 - 従来 Transformer の線形パラメータ写像を、入力と learnable token の間の cross-attention に変換 - 新規 token を容易に追加できるためモデルのスケーラビリティを確保 - language-guided skill scaling を導入し、タスク間の知識転移を効率化 - これによりパラメータが線形に増大するのを回避 - 学習可能パラメータを token 単位で制御する設計

4. どうやって有効だと検証した?

- 多様なタスクにわたる広範な実験で検証 - LIBERO の3つのタスクスイートで平均 NBT 1.0% を達成し、破滅的忘却を効果的に防止 - 生涯タスク平均で学習可能 token 8.0% のみで新規スキル拡張が可能 - LIBERO 3スイートで平均 FWT 77.7% を達成し、タスク間の効率的知識転移を示す - 評価指標として NBT と FWT を使用

5. 議論はある?

- 忘却抑制と新規スキル獲得のバランスを統一的に扱う点を主張 - token 追加によるスケーリングと言語ガイドによる知識転移の組合せが有効性の根拠として示される - 学習可能パラメータの増加を抑えられる点を利点として議論 - 限界や失敗事例、計算コストの詳細な議論は要旨からは不明 - 比較対象の具体的な既存手法名も要旨からは不明

6. 次に読むべき論文は?

- LIBERO ベンチマークに関する論文(生涯学習・模倣学習評価の基盤) - catastrophic forgetting 対策の代表的手法(例: Elastic Weight Consolidation, Experience Replay, Parameter Isolation) - lifelong imitation learning の代表的先行研究 - Transformer のパラメータを token 化する手法(例: token 化・cross-attention ベースのパラメータ生成) - language-guided なスキル転移・タスク条件付けに関する研究 - 要旨で直接参照されている個別論文名は不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hongquan Zhang, Jingyu Gong, Zhizhong Zhang, Xin Tan, Yanyun Qu, Yuan Xie

分類: cs.LG, cs.RO

原文アブストラクト

The main challenge in lifelong imitation learning lies in the balance between mitigating catastrophic forgetting of previous skills while maintaining sufficient capacity for acquiring new ones. However, current approaches typically address these aspects in isolation, overlooking their internal correlation in lifelong skill acquisition. We address this limitation with a unified framework named Tokenized Skill Scaling (T2S). Specifically, by tokenizing the model parameters, the linear parameter mapping of the traditional transformer is transformed into cross-attention between input and learnable tokens, thereby enhancing model scalability through the easy extension of new tokens. Additionally, we introduce language-guided skill scaling to transfer knowledge across tasks efficiently and avoid linearly growing parameters. Extensive experiments across diverse tasks demonstrate that T2S: 1) effectively prevents catastrophic forgetting (achieving an average NBT of 1.0% across the three LIBERO task suites), 2) excels in new skill scaling with minimal increases in trainable parameters (needing only 8.0% trainable tokens in an average of lifelong tasks), and 3) enables efficient knowledge transfer between tasks (achieving an average FWT of 77.7% across the three LIBERO task suites), offering a promising solution for lifelong imitation learning.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI