日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

安全制御arXiv:2510.21560

逆制約学習による専門家デモンストレーションからのニューラル制御バリア関数の学習

Learning Neural Control Barrier Functions from Expert Demonstrations using Inverse Constraint Learning

シェア:XThreadsFacebookLINEはてブBluesky

専門家のデモンストレーションから逆制約学習を用いて安全・危険を分類する制約関数を訓練し、それを用いてニューラル制御バリア関数を学習する手法を提案。4環境で既存手法を上回る性能を示した。

詳しい要約

1. どんなもの?

- 安全フィルタ設計に用いる neural Control Barrier Function (CBF) を、失敗集合の明示的指定なしに expert demonstrations から学習する手法。 - Inverse Constraint Learning (ICL) で状態を safe/unsafe に分類する制約関数を訓練し、その関数で新たなシミュレーション軌道にラベルを付けて neural CBF を学習する。 - autonomous driving の tailgating のように形式的指定が難しい失敗集合を扱う動機を持つ。

2. 先行研究と比べてどこがすごい?

- 従来の neural CBF 学習は、計算コストの高い最適化ベースの合成の代替として提案されてきたが、失敗集合の指定が必要で非自明な場合がある。 - 本研究は expert demonstrations のみから ICL を用いて制約関数を得ることで、失敗集合の明示的指定を回避する点が新しい。 - 4環境の実験で既存ベースラインを上回り、ground-truth safety labels 付き同一データで訓練した neural CBF に匹敵する性能を達成。

3. 技術・手法の肝は?

- ICL を用いて、状態を safe(未指定の失敗集合と交わらない controlled forward invariant set に属する)と unsafe(その補集合)に分類する制約関数を訓練。 - その制約関数で新たに生成したシミュレーション軌道にラベル付けし、neural CBF の訓練データとする。 - 得られた neural CBF を安全フィルタに用い、nominal controls を最小限に修正して安全性を維持する枠組み。

4. どうやって有効だと検証した?

- 4つの異なる環境で実証評価を実施。 - 既存ベースラインとの比較で優位性を示す。 - ground-truth safety labels を付けた同一データで訓練した neural CBF と同等の性能を達成したと報告。

5. 議論はある?

- 失敗集合を形式的に指定せず expert demonstrations から安全/不安全の分類を学ぶ有効性を示唆。 - 具体的な限界や失敗ケース、ICL のラベル品質依存性など詳細な議論は要旨からは不明。

6. 次に読むべき論文は?

- Inverse Constraint Learning (ICL) の原論文・関連手法。 - neural Control Barrier Function (CBF) の学習に関する先行研究。 - 最適化ベースの CBF 合成手法。 - 安全フィルタ(safety filter)に関する研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuxuan Yang, Hussein Sibai

分類: cs.AI, cs.RO

原文アブストラクト

Safety is a fundamental requirement for autonomous systems operating in critical domains. Control barrier functions (CBFs) have been used to design safety filters that minimally alter nominal controls for such systems to maintain their safety. Learning neural CBFs has been proposed as a data-driven alternative for their computationally expensive optimization-based synthesis. However, it is often the case that the failure set of states that should be avoided is non-obvious or hard to specify formally, e.g., tailgating in autonomous driving, while a set of expert demonstrations that achieve the task and avoid the failure set is easier to generate. We use ICL to train a constraint function that classifies the states of the system under consideration to safe, i.e., belong to a controlled forward invariant set that is disjoint from the unspecified failure set, and unsafe ones, i.e., belong to the complement of that set. We then use that function to label a new set of simulated trajectories to train our neural CBF. We empirically evaluate our approach in four different environments, demonstrating that it outperforms existing baselines and achieves comparable performance to a neural CBF trained with the same data but annotated with ground-truth safety labels.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI