日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

制御/安全arXiv:2511.08419

平均報酬MDPを用いた確率制御システムの確率的な安全保証

Probabilistic Safety Guarantee for Stochastic Control Systems Using Average Reward MDPs

シェア:XThreadsFacebookLINEはてブBluesky

確率ノイズを受ける制御システムの安全性を、平均報酬マルコフ決定過程に帰着させて線形計画法で安全方策を計算する手法を提案し、二重積分器と倒立振子で検証した。

詳しい要約

1. どんなもの?

- 対象: 既知の確率分布を持つランダムノイズに晒される stochastic control systems - 目的: 状態変数の不確実な遷移の下で、事前定義された operational constraints を高い信頼度で満たす policy を計算すること - 提案: 有限状態集合上で safety level を判定する safe policy を計算する新アルゴリズム - 特徴: safety objective を標準的な average reward Markov Decision Process (MDP) の目的関数へ帰着させる - 効果: linear programs などの標準手法で safe policy の計算・解析が可能になる

2. 先行研究と比べてどこがすごい?

- 比較対象: minimum discounted-reward による解法 - 包括性: average-reward MDPs の解はより comprehensive であると報告 - 収束性: より速く converges すると報告 - 品質: より高い quality を持つと報告 - 位置づけ: 従来の discounted-reward ベースの安全政策計算に対する代替として average reward への帰着を提案 - 詳細な先行研究との理論比較は要旨からは不明

3. 技術・手法の肝は?

- 核となる考え: safety objective を average reward MDP の目的関数に reduction する - これにより linear programs 等の標準的な MDP 解法を safe policy の計算・解析に適用可能 - 対象は有限状態集合上の safety level 評価 - 既知の確率分布を持つ random noise を前提とした stochastic control systems を扱う - 具体的な制約定式化や LP の構成詳細は要旨からは不明

4. どうやって有効だと検証した?

- 数値検証を実施 - 検証対象システム: Double Integrator と Inverted Pendulum - 比較: average-reward MDPs の解 vs minimum discounted-reward の解 - 評価観点: comprehensiveness、収束速度、解の品質 - 結果: average-reward 側がより包括的・高速収束・高品質と報告 - 定量指標や実験条件の詳細は要旨からは不明

5. 議論はある?

- 提案手法の利点として標準 LP 技術の利用可能性を主張 - average reward と discounted reward の比較結果を議論 - 限界や仮定(既知の確率分布、有限状態集合)に関する議論の詳細は要旨からは不明 - スケーラビリティや連続状態への拡張に関する議論は要旨からは不明

6. 次に読むべき論文は?

- minimum discounted-reward に基づく安全政策手法(比較対象) - average reward Markov Decision Process (MDP) の標準的解法に関する文献 - linear programming による MDP 解法 - Double Integrator および Inverted Pendulum を用いた安全制御の関連研究 - stochastic control systems における safety guarantee の関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Saber Omidi, Marek Petrik, Se Young Yoon, Momotaz Begum

分類: eess.SY, cs.LG, cs.RO, cs.SY, math.OC

原文アブストラクト

Safety in stochastic control systems, which are subject to random noise with a known probability distribution, aims to compute policies that satisfy predefined operational constraints with high confidence throughout the uncertain evolution of the state variables. The unpredictable evolution of state variables poses a significant challenge for meeting predefined constraints using various control methods. To address this, we present a new algorithm that computes safe policies to determine the safety level across a finite state set. This algorithm reduces the safety objective to the standard average reward Markov Decision Process (MDP) objective. This reduction enables us to use standard techniques, such as linear programs, to compute and analyze safe policies. We validate the proposed method numerically on the Double Integrator and the Inverted Pendulum systems. Results indicate that the average-reward MDPs solution is more comprehensive, converges faster, and offers higher quality compared to the minimum discounted-reward solution.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI