潜在活性編集：安全なマルチロボットナビゲーションのための学習済みポリシーの推論時改良
Latent Activation Editing: Inference-Time Refinement of Learned Policies for Safer Multirobot Navigation
学習済みポリシーの重みを変えずに、推論時に内部活性を編集して衝突回避を促す手法を提案し、マルチクアッドロータナビゲーションで衝突を約90%削減した。
詳しい要約
1. どんなもの？
2. 先行研究と比べてどこがすごい？
3. 技術・手法の肝は？
4. どうやって有効だと検証した？
5. 議論はある？
6. 次に読むべき論文は？
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Satyajeet Das, Darren Chiu, Zhehui Huang, Lars Lindemann, Gaurav S. Sukhatme
分類: cs.RO
原文アブストラクト
Reinforcement learning has enabled significant progress in complex domains such as coordinating and navigating multiple quadrotors. However, even well-trained policies remain vulnerable to collisions in obstacle-rich environments. Addressing these infrequent but critical safety failures through retraining or fine-tuning is costly and risks degrading previously learned skills. Inspired by activation steering in large language models and latent editing in computer vision, we introduce a framework for inference-time Latent Activation Editing (LAE) that refines the behavior of pre-trained policies without modifying their weights or architecture. The framework operates in two stages: (i) an online classifier monitors intermediate activations to detect states associated with undesired behaviors, and (ii) an activation editing module that selectively modifies flagged activations to shift the policy towards safer regimes. In this work, we focus on improving safety in multi-quadrotor navigation. We hypothesize that amplifying a policy's internal perception of risk can induce safer behaviors. We instantiate this idea through a latent collision world model trained to predict future pre-collision activations, thereby prompting earlier and more cautious avoidance responses. Extensive simulations and real-world Crazyflie experiments demonstrate that LAE achieves statistically significant reduction in collisions (nearly 90% fewer cumulative collisions compared to the unedited baseline) and substantially increases the fraction of collision-free trajectories, while preserving task completion. More broadly, our results establish LAE as a lightweight paradigm, feasible on resource-constrained hardware, for post-deployment refinement of learned robot policies.
関連論文
- ソーシャルミニゲームにおけるマルチロボットナビゲーション：定義、分類、アルゴリズムマルチロボットナビゲーション
- マルチモーダル連鎖思考スコア協調によるマルチロボット意味ナビゲーションの強化マルチロボットナビゲーション
- 未知環境におけるマルチロボット長距離ナビゲーションの学習強化手法マルチロボットナビゲーション
- 狭い廊下でのマルチロボットナビゲーションのための知覚ハルシネーション学習マルチロボットナビゲーション
- 相互速度障害物を報酬設計に組み込んだ強化学習による分散マルチロボットナビゲーションマルチロボットナビゲーション
- マルチロボットナビゲーションにおける分散型グローバル接続維持のための強化学習アプローチマルチロボットナビゲーション
