日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

安全制御arXiv:2602.03799

未知環境における安全制御のためのコンフォーマル到達可能性解析

Conformal Reachability for Safe Control in Unknown Environments

シェア:XThreadsFacebookLINEはてブBluesky

未知のダイナミクスを持つシステムに対し、コンフォーマル予測と到達可能性解析を組み合わせて確率的な安全保証を検証し、安全を維持しつつ報酬を最大化する制御方策を学習する手法を提案した。

詳しい要約

1. どんなもの?

- 未知の動的システムに対する確率的検証フレームワークを提案。 - Conformal predictionとreachability analysisを組み合わせ、各時間ステップで未知の動的システムの不確実性区間を取得。 - その区間内で安全性が維持されるかをreachabilityで検証。 - 名目報酬を最適化しつつ、確率的な安全保証を伴う計画ホライズンを最大化する制御ポリシーを訓練するアルゴリズムを開発。 - 4領域(cartpole, lane following, drone control, safe navigation)の7つの安全制御設定で評価。

2. 先行研究と比べてどこがすごい?

- 従来研究はシステム動力学が既知または決定論的であるか、状態・行動空間が有限であると仮定することが多く、適用範囲が限られていた。 - 本研究は未知の動的システムを対象とし、conformal predictionとreachability analysisを組み合わせることで、これらの制限を克服。 - 有限でない状態・行動空間にも適用可能。 - 学習したポリシーは、最も強い証明可能な安全保証を達成しつつ、高い平均報酬を維持することを実験で示した。

3. 技術・手法の肝は?

- Conformal predictionを用いて、各時間ステップで未知の動的システムの有効な不確実性区間を取得。 - Reachability analysisにより、そのconformal不確実性区間内で安全性が維持されるかを検証。 - 名目報酬を最適化しながら、確率的な安全保証を伴う計画ホライズンを最大化する制御ポリシーを訓練するアルゴリズムを開発。 - アフィンおよび非線形の安全仕様に対応。

4. どうやって有効だと検証した?

- 4つの領域(cartpole, lane following, drone control, safe navigation)にわたる7つの安全制御設定で評価。 - アフィンおよび非線形の安全仕様の両方で実験。 - 実験結果から、学習したポリシーが最も強い証明可能な安全保証を達成し、かつ高い平均報酬を維持することを示した。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、conformal prediction、reachability analysis、safe control、probabilistic verification、trustworthy autonomyが挙げられる。 - 同分野の定番として、Hamilton-Jacobi reachability、control barrier functions、model predictive controlなどが考えられるが、要旨に記載はない。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xinhang Ma, Junlin Wu, Yiannis Kantaros, Yevgeniy Vorobeychik

分類: cs.RO, cs.AI

原文アブストラクト

Designing provably safe control is a core problem in trustworthy autonomy. However, most prior work in this regard assumes either that the system dynamics are known or deterministic, or that the state and action space are finite, significantly limiting application scope. We address this limitation by developing a probabilistic verification framework for unknown dynamical systems which combines conformal prediction with reachability analysis. In particular, we use conformal prediction to obtain valid uncertainty intervals for the unknown dynamics at each time step, with reachability then verifying whether safety is maintained within the conformal uncertainty bounds. Next, we develop an algorithmic approach for training control policies that optimize nominal reward while also maximizing the planning horizon with sound probabilistic safety guarantees. We evaluate the proposed approach in seven safe control settings spanning four domains -- cartpole, lane following, drone control, and safe navigation -- for both affine and nonlinear safety specifications. Our experiments show that the policies we learn achieve the strongest provable safety guarantees while still maintaining high average reward.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI