日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

安全計画arXiv:2511.10586

対話環境における安全計画:反復的政策更新と敵対的ロバスト共形予測

Safe Planning in Interactive Environments via Iterative Policy Updates and Adversarially Robust Conformal Prediction

シェア:XThreadsFacebookLINEはてブBluesky

対話環境での安全計画において、政策更新による分布シフトを考慮し、敵対的ロバスト共形予測を用いて安全保証を維持する反復フレームワークを提案した。

詳しい要約

1. どんなもの?

- 対話型環境における自律エージェントの安全計画手法を提案。 - 自己運転車と歩行者のような環境の反応を考慮。 - 既存のconformal prediction (CP)の交換可能性仮定が破綻する問題に対処。 - 反復的なポリシー更新とadversarially robust CPを組み合わせた枠組み。 - 安全性保証をポリシー更新間で維持する。

2. 先行研究と比べてどこがすごい?

- 既存研究はCPを用いて分布に依存しない安全保証を生成。 - しかし対話型設定ではポリシー更新が環境挙動を変え、交換可能性仮定が違反。 - 提案手法はポリシー更新の影響を定量化し、CP結果を解析的に調整。 - これによりポリシー更新を跨いで安全保証を転送可能に。 - 初めてこのような対話型設定で有効な安全保証を提供。

3. 技術・手法の肝は?

- 反復フレームワーク:各エピソードで現在のポリシー下の観測データを用いて通常のCPを実行。 - ポリシー更新間でCP結果を解析的に調整し、分布シフトを考慮。 - 調整はポリシーから軌道への感度分析に基づく。 - 安全なエピソード的開ループプランナーを実現。 - 収縮解析によりCP結果とポリシー更新の収束条件を保証。

4. どうやって有効だと検証した?

- 二次元のcar-pedestrianケーススタディと高次元のquadcopterケーススタディで実証。 - 安全性と収束の保証を経験的にデモンストレーション。 - 具体的な評価指標や比較手法は要旨からは不明。

5. 議論はある?

- 収縮解析により収束条件を提示。 - 対話型設定での安全保証の有効性を主張。 - 限界や議論の詳細は要旨からは不明。

6. 次に読むべき論文は?

- 関連手法:conformal prediction (CP), adversarially robust CP。 - 比較対象として既存のCPベース安全計画手法。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Omid Mirzaeedodangeh, Eliot Shekhtman, Nikolai Matni, Lars Lindemann

分類: eess.SY, cs.RO, cs.SY

原文アブストラクト

Safe planning of an autonomous agent in interactive environments -- such as the control of a self-driving vehicle among pedestrians -- poses a major challenge as the behavior of the environment is unknown and reactive to the behavior of the autonomous agent. This coupling gives rise to interaction-driven distribution shifts where the autonomous agent's control policy may change the environment's behavior, thereby invalidating safety guarantees in existing work. Indeed, recent works have used conformal prediction (CP) to generate distribution-free safety guarantees using observed data of the environment. However, CP's assumption on data exchangeability is violated in interactive settings due to a circular dependency where a control policy update changes the environment's behavior, and vice versa. To address this gap, we propose an iterative framework that robustly maintains safety guarantees across policy updates by quantifying the potential impact of a planned policy update on the environment's behavior. We realize this via adversarially robust CP where we perform a regular CP step in each episode using observed data under the current policy, but then transfer safety guarantees across policy updates by analytically adjusting the CP result to account for distribution shifts. This adjustment is performed based on a policy-to-trajectory sensitivity analysis, resulting in a safe, episodic open-loop planner. We further conduct a contraction analysis of the system providing conditions under which both the CP results and the policy updates are guaranteed to converge. We empirically demonstrate these safety and convergence guarantees on a two-dimensional car-pedestrian and a high-dimensional quadcopter case study. To the best of our knowledge, these are the first results that provide valid safety guarantees in such interactive settings.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI