日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

安全制御arXiv:2604.18482

学習された安全フィルタと適応共形推論を用いた安全制御

Safe Control using Learned Safety Filters and Adaptive Conformal Inference

シェア:XThreadsFacebookLINEはてブBluesky

本論文は、学習ベースの安全フィルタと適応共形推論を組み合わせ、不確実性を考慮して安全でない動作を動的に回避する手法ACoFiを提案し、シミュレーションで有効性を示した。

詳しい要約

1. どんなもの?

- 本論文は、学習ベースの安全フィルタと適応的conformal inferenceを組み合わせたAdaptive Conformal Filtering (ACoFi)を提案する。 - 安全性フィルタは、安全でないnominal policyを持つ制御システムの安全性を確保するための有効なツールである。 - 従来の合成手法のスケーラビリティ問題に対処するため、高次元状態・制御空間に対する学習ベースの安全フィルタ設計が提案されている。 - しかし、これらのモデルの決定における避けられない誤差は、信頼性と安全性保証に懸念を生じさせる。 - ACoFiは、学習されたHamilton-Jacobi reachabilityベースの安全フィルタと適応的conformal inferenceを組み合わせる。 - フィルタは、行動の安全性予測における観測された誤差に基づいてスイッチング基準を動的に調整する。 - nominal policyの出力の可能な安全値の範囲を用いて、安全評価の不確実性を定量化する。 - その範囲が安全でない可能性を示す場合、フィルタはnominal policyから学習さ…

2. 先行研究と比べてどこがすごい?

- 従来の安全フィルタ合成手法はスケーラビリティの問題がある。 - 学習ベースの安全フィルタは高次元状態・制御空間に対応できるが、モデルの決定に誤差があり、信頼性と安全性保証に懸念がある。 - 本手法は、学習ベースの安全フィルタに適応的conformal inferenceを組み合わせ、不確実性を定量化することで、誤差に対処する。 - 固定スイッチング閾値を用いるベースライン手法と比較して、特に分布外シナリオでより高い学習安全性値とより少ない安全違反を達成する。 - ユーザー定義パラメータによる漸近的な誤り率の上限保証を提供する点が新しい。

3. 技術・手法の肝は?

- 学習されたHamilton-Jacobi reachabilityベースの安全フィルタと適応的conformal inferenceを組み合わせる。 - フィルタは、行動の安全性予測における観測された誤差に基づいてスイッチング基準を動的に調整する。 - nominal policyの出力の可能な安全値の範囲を用いて、安全評価の不確実性を定量化する。 - その範囲が安全でない可能性を示す場合、フィルタはnominal policyから学習された安全なポリシーに切り替える。 - 適応的conformal inferenceにより、不確実性の誤定量化率がユーザー定義パラメータで漸近的に上限保証される。

4. どうやって有効だと検証した?

- Dubins carシミュレーションとSafety Gymnasium環境でACoFiを評価。 - 固定スイッチング閾値を用いるベースライン手法と比較。 - 特に分布外シナリオにおいて、より高い学習安全性値とより少ない安全違反を達成することを実証的に示す。

5. 議論はある?

- ACoFiはハードな安全性保証ではなく、ソフトな安全性保証を与える。 - ユーザー定義パラメータによって、不確実性の誤定量化率の漸近的上限が保証される。 - 学習ベースの安全フィルタの誤差に対する信頼性の懸念に対処する。 - 分布外シナリオでの性能向上が示されている。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: 学習ベースの安全フィルタ設計、Hamilton-Jacobi reachabilityベースの安全フィルタ、固定スイッチング閾値を用いるベースライン手法。 - 関連手法: conformal inference、適応的conformal inference。 - 同分野の定番: 安全フィルタ、Hamilton-Jacobi reachability、安全強化学習。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Sacha Huriot, Ihab Tabbara, Hussein Sibai

分類: eess.SY, cs.LG, cs.RO, cs.SY

原文アブストラクト

Safety filters have been shown to be effective tools to ensure the safety of control systems with unsafe nominal policies. To address scalability challenges in traditional synthesis methods, learning-based approaches have been proposed for designing safety filters for systems with high-dimensional state and control spaces. However, the inevitable errors in the decisions of these models raise concerns about their reliability and the safety guarantees they offer. This paper presents Adaptive Conformal Filtering (ACoFi), a method that combines learned Hamilton-Jacobi reachability-based safety filters with adaptive conformal inference. Under ACoFi, the filter dynamically adjusts its switching criteria based on the observed errors in its predictions of the safety of actions. The range of possible safety values of the nominal policy's output is used to quantify uncertainty in safety assessment. The filter switches from the nominal policy to the learned safe one when that range suggests it might be unsafe. We show that ACoFi guarantees that the rate of incorrectly quantifying uncertainty in the predicted safety of the nominal policy is asymptotically upper bounded by a user-defined parameter. This gives a soft safety guarantee rather than a hard safety guarantee. We evaluate ACoFi in a Dubins car simulation and a Safety Gymnasium environment, empirically demonstrating that it significantly outperforms the baseline method that uses a fixed switching threshold by achieving higher learned safety values and fewer safety violations, especially in out-of-distribution scenarios.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI