日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

模倣学習arXiv:2506.06072

BEAST: Bスプライン符号化による模倣学習向けアクション系列の効率的トークン化

BEAST: Efficient Tokenization of B-Splines Encoded Action Sequences for Imitation Learning

シェア:XThreadsFacebookLINEはてブBluesky

Bスプラインでアクション系列をコンパクトな離散・連続トークンに符号化するトークナイザを提案し、別途学習不要で滑らかな軌道生成と計算コスト削減を実現した。

詳しい要約

1. どんなもの?

- BEAST(B-spline Encoded Action Sequence Tokenizer)という新規の action tokenizer を提案する研究。 - action sequence を B-splines を用いてコンパクトな discrete または continuous な token に符号化する。 - imitation learning における action sequence 生成のための tokenizer であり、VAE・decoder-only Transformer・Florence-2 など複数アーキテクチャと統合可能。

2. 先行研究と比べてどこがすごい?

- 既存の action tokenizer は vector quantization や byte pair encoding に基づくものが多い。 - BEAST は別途 tokenizer の学習を必要とせず、常に均一長の token を生成できる点が異なる。 - 均一長 token により parallel decoding による高速な action sequence 生成が可能。 - B-spline 定式化により、隣接セグメント間の不連続のない滑らかな軌道生成を本質的に保証する。

3. 技術・手法の肝は?

- action sequence を B-splines で表現し、その制御点等を token 化する action tokenizer を設計。 - discrete token と continuous token の両方を扱える定式化。 - 均一長 token により parallel decoding を可能にし、action sequence 生成を高速化。 - B-spline 表現に基づき滑らかな軌道を保証する点が手法の肝。

4. どうやって有効だと検証した?

- 3 つのモデルアーキテクチャ(continuous token の VAE、discrete token の decoder-only Transformer、encoder-decoder 型の pretrained Vision-Language Model である Florence-2)と統合して評価。 - 166 の simulated tasks からなる 3 つの確立済み benchmark で評価。 - 3 つの異なる robot settings における計 8 つの real-world tasks でも評価。 - 結果として訓練・推論の計算コスト削減、滑らかで高周波な制御信号の生成、state-of-the-art 手法と競合する task success rate を確認。

5. 議論はある?

- BEAST は訓練・推論コストを大幅に削減しつつ、連続制御に適した滑らかで高周波な制御信号を安定的に生成できると報告。 - state-of-the-art 手法と比較して競合する task success rate を達成。 - 大規模 pretrained model との互換性・スケーラビリティも示唆。 - 具体的な限界や失敗事例、B-spline の次数や knot 設定などの詳細な議論は要旨からは不明。

6. 次に読むべき論文は?

- vector quantization に基づく action tokenizer - byte pair encoding に基づく action tokenizer - Variational Autoencoder (VAE) - decoder-only Transformer - Florence-2 - Vision-Language Model を用いた imitation learning 関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hongyi Zhou, Weiran Liao, Xi Huang, Yucheng Tang, Fabian Otto, Xiaogang Jia, Xinkai Jiang, Simon Hilber, Ge Li, Qian Wang, Ömer Erdinç Yağmurlu, Nils Blank, Moritz Reuss, Rudolf Lioutikov

分類: cs.RO, cs.LG

原文アブストラクト

We present the B-spline Encoded Action Sequence Tokenizer (BEAST), a novel action tokenizer that encodes action sequences into compact discrete or continuous tokens using B-splines. In contrast to existing action tokenizers based on vector quantization or byte pair encoding, BEAST requires no separate tokenizer training and consistently produces tokens of uniform length, enabling fast action sequence generation via parallel decoding. Leveraging our B-spline formulation, BEAST inherently ensures generating smooth trajectories without discontinuities between adjacent segments. We extensively evaluate BEAST by integrating it with three distinct model architectures: a Variational Autoencoder (VAE) with continuous tokens, a decoder-only Transformer with discrete tokens, and Florence-2, a pretrained Vision-Language Model with an encoder-decoder architecture, demonstrating BEAST's compatibility and scalability with large pretrained models. We evaluate BEAST across three established benchmarks consisting of 166 simulated tasks and on three distinct robot settings with a total of 8 real-world tasks. Experimental results demonstrate that BEAST (i) significantly reduces both training and inference computational costs, and (ii) consistently generates smooth, high-frequency control signals suitable for continuous control tasks while (iii) reliably achieves competitive task success rates compared to state-of-the-art methods.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI