日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2606.21470

ASCIIアートがLLMをVLAコントローラに変える

ASCII Art Turns LLMs into VLA Controllers

シェア:XThreadsFacebookLINEはてブBluesky

視覚情報をASCII表現に変換してテキストのみのLLMに入力することで、VLAスタイルのコントローラを構築できることを示した論文。シミュレーションと実機の2D操作タスクで有効性を実証している。

詳しい要約

1. どんなもの?

- 視覚観測を ASCII 表現に変換し、text-only LLM に入力する VLA コントローラ - ASCII-as-vision インタフェースで視覚状態に条件付け、自然言語指示に従い、制約付き実行可能行動を生成 - 2D manipulation benchmark の simulation と physical manipulator で検証

2. 先行研究と比べてどこがすごい?

- 従来の VLA は VLM を action supervision で拡張し、multimodal backbone と大規模データ・計算を要する - 本研究は text-only LLM を ASCII レンダリング経由で VLA 的に適応可能と示す - 既存の LLM 学習・配備スタックを活用でき、軽量で解釈可能な modality bridge を提供

3. 技術・手法の肝は?

- 画像を ASCII 表現に変換しテキスト入力として LLM に与える ASCII-as-vision interface - 複数の LLM と VLM をモデルファミリ・スケール横断で fine-tune し比較 - planning-based teacher の expert demonstrations と DAgger による反復改善を使用 - 制約付き実行可能 action を出力

4. どうやって有効だと検証した?

- 2D manipulation benchmark で simulation と physical manipulator の両方で評価 - タスク関連 entity の識別と実行可能な action sequence の計画を確認 - 複数 LLM/VLM の比較により有効性を検証

5. 議論はある?

- ASCII rendering は画像からテキストへの軽量で解釈可能な modality bridge となり、従来の VLA pipeline を補完し得る - text-only backbone を用いた VLA 研究の方向性を開く - 限界や失敗事例、計算コストの詳細は要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: VLA controllers, VLMs, DAgger, planning-based teacher - 関連手法: Vision-Language-Action (VLA), Vision-Language Models (VLMs), Large Language Models (LLMs), ASCII rendering, imitation learning, DAgger

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yitao Jiang, Roy Xing, Luyang Zhao, Brian Plancher, Muhao Chen, Devin Balkcom

分類: cs.RO, cs.CV, cs.LG

原文アブストラクト

Vision--Language--Action (VLA) controllers are often built by extending vision--language models (VLMs) with action supervision, relying on multimodal backbones with large data and compute requirements. We demonstrate that a text-only large language model (LLM) can be adapted into a VLA-style controller when visual observations are rendered into a text input using an ASCII representation. This ASCII-as-vision interface enables existing training and deployment stacks for LLMs to efficiently condition on visual state, follow natural-language instructions, and produce constrained, executable actions. We fine-tune and compare multiple LLMs and VLMs across model families and scales, using both expert demonstrations from a planning-based teacher, as well as DAgger for iterative improvement. In a 2D manipulation benchmark, in both simulation and on a physical manipulator, the resulting controllers can identify task-relevant entities and plan feasible action sequences. Our results suggest that ASCII rendering can serve as a lightweight, interpretable modality bridge from images to text, complementing conventional VLA pipelines, and opening directions for VLA research with text-only backbones.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI