日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自律運転/LLM/プルーニングarXiv:2605.31256

パルクフェルメ前:自律運転における効率的な具現化LLMのためのRL時プルーニング

Before Parc Ferm\'e: RL-Time Pruning for Efficient Embodied LLMs in Autonomous Driving

シェア:XThreadsFacebookLINEはてブBluesky

具現化LLMをロボット制御に使う際のメモリと遅延問題に対し、RL訓練中にプルーニングを行う戦略BPFを提案し、自律運転パイプラインで評価した。

詳しい要約

1. どんなもの?

- Embodied LLM をロボット制御パイプラインの推論モジュールとして使う際のメモリと生成遅延を削減するため、RL 中に pruning を行う戦略 Before Parc Fermé (BPF) を提案。 - 対象は LLM-based 自動運転制御パイプライン RobotxR1。 - BPF-RL と BPF-SFT/RL の2変種を提案。 - タスク性能 vs メモリ・スループットのトレードオフ改善を狙う。

2. 先行研究と比べてどこがすごい?

- 従来の post-training pruning、post-training pruning with RL recovery、SFT-stage pruning、同系列の小規模 dense model 選択と比較。 - BPF はこれらの中でタスク性能 vs メモリ・スループットのトレードオフが最良。 - 大規模 RobotxR1 圧縮時、BPF-SFT/RL は同系列の小規模 dense model 直接選択より size-end-to-end performance trade-off が 1.69倍良い(制御適応性の損失1%あたりの削除パラメータ数で測定)。 - Jetson AGX Orin 上で decode throughput が最大27%向上。

3. 技術・手法の肝は?

- RL 中に pruning を実施し、closed-loop 挙動向け最適化中の embodied LLM controller を圧縮。 - タスク特異的 supervision と closed-loop feedback を pruning 判断に反映可能。 - BPF-RL: RL 中に predefined training intervals でモデルの一部を反復的に削除。 - BPF-SFT/RL: まず SFT 中にモデル構造の一部を pruning し、その後 RL 中に BPF-RL と同じ反復戦略で目標 pruning ratio まで圧縮。 - 既存の LLM pruning framework (LLM-Pruner) を利用。

4. どうやって有効だと検証した?

- RobotxR1 上で BPF を評価。 - 比較対象: post-training pruning、post-training pruning with RL recovery、SFT-stage pruning、同系列の小規模 dense model。 - 指標: task-performance vs memory and throughput trade-off、size-end-to-end performance trade-off(制御適応性の損失1%あたりの削除パラメータ数)、decode throughput。 - ターゲットロボットプラットフォーム搭載の Jetson AGX Orin 上で最大27%の decode throughput 向上を確認。

5. 議論はある?

- 要旨からは不明。 - 提案手法の限界、pruning タイミングの一般性、他タスクへの適用可能性などは明示されていない。

6. 次に読むべき論文は?

- LLM-Pruner(本研究で使用された LLM pruning framework) - RobotxR1(評価対象の LLM-based 自動運転制御パイプライン) - post-training pruning、post-training pruning with RL recovery、SFT-stage pruning などの比較手法 - 同系列の小規模 dense model 選択に関する研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Luca Benfenati, Ali Azimi, Matteo Risso, Fabio Carapellese, Daniele Jahier Pagliari, Alessio Burrello

分類: cs.RO

原文アブストラクト

Embodied Large Language Models (LLMs) are increasingly used as reasoning modules in robotic control pipelines to improve human-robot interaction, but their memory and generation latency make real-time deployment difficult. Pruning can reduce these costs, but for controllers that undergo multiple pre- and post-training phases, the crucial question is not only how much to prune, but when pruning should occur. In this work, we propose Before Parc Ferm\'e (BPF), a pruning strategy performed during RL that compresses embodied LLM controllers while they are still being optimized for closed-loop behavior. This allows pruning decisions to account for the task-specific supervision and closed-loop feedback that shape the final controller. We propose two variants: BPF-RL, which performs iterative pruning during RL by removing part of the model at predefined training intervals, and BPF-SFT/RL, which first prunes part of the model structure during SFT and then further compresses it during RL using the same iterative strategy as BPF-RL until the target pruning ratio is reached. We evaluate BPF on RobotxR1, an LLM-based autonomous-driving control pipeline, using an established LLM pruning framework (LLM-Pruner), and compare it against post-training pruning, post-training pruning with RL recovery, SFT-stage pruning, and smaller dense models from the same family. Our results show that BPF provides the best task-performance vs. memory and throughput trade-off among the considered pruning strategies. When compressing the larger RobotxR1 models, BPF-SFT/RL achieves a $1.69\times$ better size-end-to-end performance trade-off than directly selecting a smaller dense model from the same family, measured as removed parameters per lost percentage point of control adaptability. On the Jetson AGX Orin mounted on the target robotic platform, the compact models improve decode throughput by up to $27\%$.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI