日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

強化学習/部分観測/記憶arXiv:2503.01450

部分観測下の強化学習における記憶の分析ツールとPOPGym Arcade

Investigating Memory in Model-Free RL with POPGym Arcade

シェア:XThreadsFacebookLINEはてブBluesky

部分観測環境でエージェントが記憶をどう使うかを分析するツールと、完全観測/部分観測の対照実験が可能なAtari風ベンチマークPOPGym Arcadeを提案し、価値関数が無関係な履歴にクレジットを拡散する問題を明らかにした。

著者: Zekang Wang, Zhe He, Borong Zhang, Edan Toledo, Steven Morad

分類: cs.LG, cs.AI, cs.RO

原文アブストラクト

How should we analyze memory in deep RL? We introduce tools for analyzing policies under partial observability and revealing how agents use memory to make decisions. To utilize these tools, we present POPGym Arcade, a collection of Atari-inspired, hardware-accelerated environments sharing a single observation and action space. Each environment provides fully and partially observable variants, enabling counterfactual studies on observability. We find that controlled studies are necessary for fair comparisons and identify a pathology where value functions smear credit over irrelevant history. Using this pathology, we demonstrate how out-of-distribution scenarios can contaminate memory, perturbing the policy far into the future. Our code is available at https://github.com/bolt-research/popgym-arcade.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI