日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

安全制御arXiv:2505.00908

オフラインデータから保守的なニューラル制御バリア関数を学習する

Learning Conservative Neural Control Barrier Functions from Offline Data

シェア:XThreadsFacebookLINEはてブBluesky

オフラインデータセットから安全フィルタ用のニューラル制御バリア関数を学習する手法を提案し、分布外状態への到達を抑制することで既存手法より安全性とタスク性能の両立を実現した。

詳しい要約

1. どんなもの?

- 本論文は、offline dataset から neural control barrier functions (neural CBFs) を学習するアルゴリズムを提案する。 - 学習した関数は quadratic program の制約として safety filter を構成するために用いられる。 - 出力を Conservative Control Barrier Functions (CCBFs) と呼ぶ。 - 目的は、システムが unsafe states に到達するのを防ぐだけでなく、信頼性が低下する out-of-distribution 状態への到達も抑制すること。

2. 先行研究と比べてどこがすごい?

- 既存の correct-by-construction な synthesis algorithms は curse-of-dimensionality に悩まされる。 - 近年の deep learning アプローチはこの課題に対処するために提案されてきた。 - 本論文はその deep learning 系アプローチ群に、offline dataset から neural CBFs を訓練する手法を追加する。 - 実験では CCBFs が既存手法より安全性を維持しつつタスク性能への影響を最小限に抑えると報告。

3. 技術・手法の肝は?

- offline dataset を用いて neural control barrier functions を訓練するアルゴリズムを提案。 - Conservative Q-learning に着想を得た手法で、out-of-distribution 状態への到達を抑制する項を学習に組み込む。 - 学習された関数を quadratic program の制約に用いて safety filter を構成する。 - 具体的な損失関数やネットワーク構成は要旨からは不明。

4. どうやって有効だと検証した?

- 実験結果により、CCBFs が既存手法と比較して安全性を維持しつつタスク性能への影響を最小限に抑えることを示した。 - 具体的なベンチマーク、環境、評価指標は要旨からは不明。 - ソースコードは https://github.com/tabz23/CCBF で公開。

5. 議論はある?

- out-of-distribution 状態での信頼性低下を学習時に考慮する点を議論。 - offline dataset に基づく訓練であるため、データ分布外での挙動が課題となる点が背景にある。 - 具体的な限界や失敗ケース、理論保証の有無は要旨からは不明。

6. 次に読むべき論文は?

- Conservative Q-learning (CQL): 本手法の着想元である offline reinforcement learning アルゴリズム。 - 既存の correct-by-construction synthesis algorithms: curse-of-dimensionality を抱える比較対象。 - 近年の deep learning による neural CBF 学習手法: 本論文が追加を位置づける先行アプローチ群。 - quadratic program ベースの safety filter に関する研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ihab Tabbara, Hussein Sibai

分類: cs.LG, cs.FL, cs.RO, cs.SY, eess.SY

原文アブストラクト

Safety filters, particularly those based on control barrier functions, have gained increased interest as effective tools for safe control of dynamical systems. Existing correct-by-construction synthesis algorithms for such filters, however, suffer from the curse-of-dimensionality. Deep learning approaches have been proposed in recent years to address this challenge. In this paper, we add to this set of approaches an algorithm for training neural control barrier functions from offline datasets. Such functions can be used to design constraints for quadratic programs that are then used as safety filters. Our algorithm trains these functions so that the system is not only prevented from reaching unsafe states but is also disincentivized from reaching out-of-distribution ones, at which they would be less reliable. It is inspired by Conservative Q-learning, an offline reinforcement learning algorithm. We call its outputs Conservative Control Barrier Functions (CCBFs). Our empirical results demonstrate that CCBFs outperform existing methods in maintaining safety while minimally affecting task performance. Source code is available at https://github.com/tabz23/CCBF.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI