LA4VLA: 視覚なしで行動を学習する言語-行動事前学習

- 提案: LA4VLA は、視覚観測なしで language-conditioned action prior を獲得する Language-Action (LA) 事前学習フレームワーク。 - 目的: VLA モデルが視覚ショートカットに依存し、言語による行動条件付けを学びにくい問題を緩和。 - データ: 既存の expert demonstration から atomic action segment と low-level action description を対応付け、LA-33K (33K LA episodes) を構築。 - モデル: 軽量 1B パラメータの VLA モデル LA4VLA-1B を開発。 - 学習法: LA-only、sequential LA-to-VLA、mixed LA-VLA の 3 パラダイムを検討。

- 従来: VLA は visual observation と language instruction を同時に action へ写像する事前学習が主流。 - 課題: dense な visual-action supervision が sparse な language-action signal を支配し、visual shortcut に依存しやすい。 - 差分: LA4VLA は視覚観測なしの LA 事前学習で、タスク・シーン間で再利用可能な manipulation skill を獲得。 - 効果: シミュレーションと実世界で LA-pretrained policy が matched VLA-pretrained を一貫して上回る。 - 追加利点: LA と VLA の併用でさらなる性能向上。

- 分解: expert demonstration trajectory を atomic action segment に分割。 - 対応付け: 各 segment に low-level action description を付与。 - データ生成: 既存 demonstration のみから LA-33K を構築（追加の robot data collection 不要）。 - モデル: 1B パラメータの LA4VLA-1B を開発。 - 学習パラダイム: LA-only pretraining、sequential LA-to-VLA pretraining、mixed LA-VLA pretraining の 3 種を検討。

- 評価: simulation と real-world tasks の両方で検証。 - 比較: LA-pretrained policy は matched VLA-pretrained counterpart を一貫して上回る。 - 併用効果: LA と VLA の supervision を組み合わせるとさらに向上。 - 定量: mixed LA-VLA pretraining により LA4VLA-1B の平均成功率が no-pretraining baseline 比で simulation 最大 +17.8 ポイント、real-world 最大 +45.0 ポイント。

- 主張: LA4VLA は VLA policy を強化・頑健化する有効かつ補完的な事前学習戦略。 - 利点: 視覚ショートカット依存を減らし、言語条件付け行動 prior を獲得。 - 制約: 要旨からは不明（例: 失敗事例、計算コスト、汎化限界の詳細）。 - データ: LA-33K は既存 demonstration 由来で追加収集不要。 - 今後の課題: 要旨からは不明。

- 要旨で参照/比較: VLA (Vision-Language-Action) モデル、visual-action supervision、language-action signal。 - 関連手法: LA-only pretraining、sequential LA-to-VLA pretraining、mixed LA-VLA pretraining。 - データセット: LA-33K。 - モデル: LA4VLA-1B。 - 同分野の定番: robot demonstration を用いた VLA 事前学習、language-conditioned imitation learning。