日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

計画/LLMarXiv:2607.17710

トランスフォーマーによる計画:計算の連鎖と構造化コンテキストウィンドウ

Planning with Transformers: Chain of Computation and Structured Context Windows

シェア:XThreadsFacebookLINEはてブBluesky

大規模言語モデルの計画能力の限界を克服するため、トランスフォーマーを反復ループ内で用いるChain of Computation(COC)アーキテクチャを提案し、構造化コンテキストウィンドウにより計画問題を高精度で解けることを示した。

詳しい要約

1. どんなもの?

本論文は、LLMが計画問題を苦手とする一方でTransformerがTuring完全であるという理論と実践のギャップを埋めるため、TransformerベースのLMを反復ループ内に配置する計算アーキテクチャであるChain of Computation (COC)を提案する。COCは、各計画ステップで使用するウィンドウを選択可能な一定サイズのStructured Context Window (SCW)を用いる。LMは計画ポリシーの学習、世界モデルの予測、計画に必要な算術演算を実行する。

2. 先行研究と比べてどこがすごい?

従来のLLMは計画問題に対して成功率が低いことが示されているが、本手法はTransformerの理論的な計算能力を活用し、小さなLMをスクラッチから学習させることで、BlocksWorldやPancake puzzleで99.89%以上の成功率を達成している。また、Tower of Hanoi (TOH)で最大20枚の円盤、100万以上のアクションを要する問題を解くことができ、従来のLLMの計画能力を大幅に上回る。

3. 技術・手法の肝は?

COCは、LMを反復ループ内で使用し、各ステップでSCWから適切なウィンドウを選択する。SCWはTuring Machineのテープに類似したappend-onlyのものや、決定性プッシュダウンオートマトン (PDA) の形式を取る。LMは計画ポリシーを学習し、世界モデルを予測し、算術演算を実行する。算術エラーを避けるために、シンボリックな算術サポートやPDA形式のSCWを用いる。

4. どうやって有効だと検証した?

BlocksWorldとPancake puzzleで成功率99.89%以上を達成し、TOHでは最大20枚の円盤の問題を解くことを示した。TOHの失敗ケースの分析から、失敗は算術演算や未見のトークンに起因することが判明した。算術サポートやPDA形式のSCWを用いることで、必要なトレーニングデータを大幅に削減できることを示した。

5. 議論はある?

要旨からは、COCの汎用性や他の計画領域への適用可能性、スケーラビリティ、実世界の問題への応用に関する議論は不明。また、SCWの選択メカニズムの詳細や、LMのサイズと性能の関係についての考察も要旨には含まれていない。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、LLMの計画能力の限界を示す研究や、TransformerのTuring完全性に関する理論研究が挙げられる。具体的には、計画問題におけるLLMの性能を調査した論文や、Transformerの計算能力を分析した論文が関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ehsan Futuhi, Nathan R. Sturtevant

分類: cs.LG

原文アブストラクト

Large Language Models (LLMs) have had a remarkable impact across many areas of machine learning. However, recent studies have shown that they struggle to reliably solve planning problems. At the same time, theoretical results have shown that transformers, the core architecture underlying modern LLMs, are Turing-complete. In this work, we investigate this apparent gap between the theoretical computational power of LLMs and their empirical planning performance. We propose Chain of Computation (COC), a computational architecture that places a transformer-based LM inside an iterative loop, leveraging its strength as a pattern-matching system. The COC uses a Structured Context Window (SCW) which provides a constant-sized context window with support for choosing which window is used at each planning step. Within this architecture, the LM is able to learn a planning policy, predicts the world model, and performs the arithmetic operations required during planning. We show that, when given an append-only SCW (resembling a Turing Machine tape), even relatively small LMs trained from scratch can learn planning policies and generalize from a small number of training instances within each planning domain, achieving success rates above 99.89\% on BlocksWorld and the Pancake puzzle. Our analysis of failure cases in Tower of Hanoi (TOH) reveals that they arise from arithmetic operations or from encountering previously unseen tokens. We show that COC can solve TOH problem instances with up to 20 disks, requiring over 1 million actions, while requiring substantially less training data by either (1) planning with symbolical support for arithmetic or by (2) using a deterministic pushdown automaton (PDA) formulation for the SCW.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI