日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

sim2realarXiv:2209.15216

サイバーフィジカルシステムの強化学習におけるSim2real転移と時間遅延の役割

The Role of Time Delay in Sim2real Transfer of Reinforcement Learning for Cyber-Physical Systems

シェア:XThreadsFacebookLINEはてブBluesky

出力に非整数倍の遅延があるとシステムは非マルコフ的になることを示し、効率的な強化学習のためのサンプリング手法を提案して、マルチロータUAVのシミュレーションで有効性を実証した。

著者: Mohamad Chehadeh, Igor Boiko, Yahya Zweiri

分類: eess.SY, cs.RO, cs.SY

原文アブストラクト

This paper analyzes the simulation to reality gap in reinforcement learning (RL) cyber-physical systems with fractional delays (i.e. delays that are non-integer multiple of the sampling period). The consideration of fractional delay has important implications on the nature of the cyber-physical system considered. Systems with delays are non-Markovian, and the system state vector needs to be extended to make the system Markovian. We show that this is not possible when the delay is in the output, and the problem would always be non-Markovian. Based on this analysis, a sampling scheme is proposed that results in efficient RL training and agents that perform well in realistic multirotor unmanned aerial vehicle simulations. We demonstrate that the resultant agents do not produce excessive oscillations, which is not the case with RL agents that do not consider time delay in the model.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI