日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

世界モデルarXiv:2512.01119

驚き認識による世界モデルのロバスト性向上

World Model Robustness via Surprise Recognition

シェア:XThreadsFacebookLINEはてブBluesky

世界モデルの予測誤差(驚き)を利用してノイズを除去し、自動運転シミュレーションで強化学習エージェントの性能を維持する手法を提案。

詳しい要約

1. どんなもの?

- 実世界に展開するAIが直面するdistractionやout-of-distribution (OOD) noiseに対処するため、world modelが持つsurpriseの指標を活用するアルゴリズムを提案した研究。 - world modelベースのreinforcement learningエージェントにおいて、noiseの影響を低減することを目的とする。 - multi-representationとsingle-representationのrejection samplingを導入し、複数のfaulty sensorまたは単一のfaulty sensorの設定に対応する。 - 自己運転シミュレーション領域(CARLAとSafety Gymnasium)で評価。

2. 先行研究と比べてどこがすごい?

- robust trainingは一部のnoiseへの感度を下げられるが、あらゆるOOD条件を事前に想定することは不可能であるという限界がある。 - 本研究は、world modelのsurpriseを利用することで、事前に想定できないnoiseに対処する点が異なる。 - 複数センサ故障と単一センサ故障の両設定に対応するrejection samplingを提案している点が特徴。 - アーキテクチャが大きく異なる2つのstate-of-the-art world model(CosmosとDreamerV3)で有効性を示した。

3. 技術・手法の肝は?

- world modelが持つsurpriseの指標を利用し、noiseの影響を低減する。 - multi-representation rejection sampling: 複数のfaulty sensorが存在する設定に対応する手法。 - single-representation rejection sampling: 単一のfaulty sensorが存在する設定に対応する手法。 - これらのrejection samplingにより、noiseを含む観測や表現を排除してworld modelベースのRLエージェントのrobustnessを高める。 - 詳細なアルゴリズム構成は要旨からは不明。

4. どうやって有効だと検証した?

- 自己運転シミュレーション領域のCARLAとSafety Gymnasiumで評価。 - 様々な種類・レベルのnoise下で、提案手法がbaselineと比べて性能を維持することを示した。 - アーキテクチャが大きく異なる2つのstate-of-the-art world model(CosmosとDreamerV3)で安定性を向上させることを示した。 - コードをhttps://github.com/Bluefin-Tuna/WISER で公開。

5. 議論はある?

- noiseの導入は通常エージェント性能を劣化させるが、提案手法は様々なnoise下でbaseline比の性能を維持できると報告。 - 2つの異なるworld modelで有効性を示し、world modeling領域をまたぐrobustnessを示唆。 - 限界や失敗ケース、計算コストなどの詳細な議論は要旨からは不明。

6. 次に読むべき論文は?

- Cosmos - DreamerV3 - CARLA - Safety Gymnasium - world modelベースのreinforcement learningに関する関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Geigh Zollicoffer, Tanush Chopra, Mingkuan Yan, Xiaoxu Ma, Kenneth Eaton, Mark Riedl

分類: cs.LG, cs.AI

原文アブストラクト

AI systems deployed in the real world must contend with distractions and out-of-distribution (OOD) noise that can destabilize their policies and lead to unsafe behavior. While robust training can reduce sensitivity to some forms of noise, it is infeasible to anticipate all possible OOD conditions. To mitigate this issue, we develop an algorithm that leverages a world model's inherent measure of surprise to reduce the impact of noise in world model--based reinforcement learning agents. We introduce both multi-representation and single-representation rejection sampling, enabling robustness to settings with multiple faulty sensors or a single faulty sensor. While the introduction of noise typically degrades agent performance, we show that our techniques preserve performance relative to baselines under varying types and levels of noise across multiple environments within self-driving simulation domains (CARLA and Safety Gymnasium). Furthermore, we demonstrate that our methods enhance the stability of two state-of-the-art world models with markedly different underlying architectures: Cosmos and DreamerV3. Together, these results highlight the robustness of our approach across world modeling domains. We release our code at https://github.com/Bluefin-Tuna/WISER .

関連論文

  1. 1パナソニックHDなど、触覚に即応する両手作業AI「T-Rex」を共同開発研究・技術
  2. 2Boston Dynamics、GlobalFoundriesでAtlasを試験へ 半導体製造で2027年初頭から半導体・GPU
  3. 3日経クロステック、NVIDIA取締役会のファンCEO解任議論を報道 同社は同日、辞任を発表業界動向
  4. 4川崎重工業のロボット外販を報道新製品・発表
  5. 5NVIDIA、ヒトの動きをロボットに適応する「SOMA Retargeter」を紹介研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI