日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

連合学習/自動運転arXiv:2505.00318

FedEMA: 自動運転における負のエントロピー正則化を伴う連合指数移動平均

FedEMA: Federated Exponential Moving Averaging with Negative Entropy Regularizer in Autonomous Driving

シェア:XThreadsFacebookLINEはてブBluesky

自動運転の連合学習で時間的な破滅的忘却を防ぐため、サーバ側で過去ラウンドのEMAモデルを融合し、車両側で負のエントロピー正則化を加えるFedEMAを提案し、mIoUを7.12%改善した。

詳しい要約

1. どんなもの?

- 自律走行(AD)車のStreet Scene Semantic Understanding(S3U)向けのFederated Learning(FL)フレームワーク。 - 動的に変化する環境での時間的catastrophic forgettingを緩和するFedEMAを提案。 - サーバ側EMA融合と車両側negative entropy正則化の二本柱。 - 汎化性と適応性のバランスを取るdual-objective最適化を狙う。

2. 先行研究と比べてどこがすごい?

- FLはADモデルの汎化性向上の有望な枠組みだが、既存FL ADモデルは時間的catastrophic forgettingに直面。 - 継続適応が過去知識を急激に侵食する問題に対し、FedEMAはサーバ側EMAと車両側正則化で対処。 - 既存手法よりCityscapes/CamvidでmIoUが7.12%高いと報告。 - 理論的収束解析も実施している点が特徴。

3. 技術・手法の肝は?

- (I) サーバ側: 現FLラウンドの集約モデルと前ラウンドのexponential moving average(EMA)モデルを融合し、履歴適合能力を保持。 - (II) 車両側: negative entropy正則化により、EMAが導入する時間パターンへの過学習を防止。 - 上記2戦略で汎化性と適応性を両立するdual-objective最適化を実現。 - FedEMAの理論的収束解析を実施。

4. どうやって有効だと検証した?

- Cityscapes datasetとCamvid datasetで実験。 - 既存手法と比較し、mean Intersection-over-Union(mIoU)が7.12%高い結果を報告。 - 理論的収束解析も併せて提示。 - 具体的な比較対象や実験設定の詳細は要旨からは不明。

5. 議論はある?

- 時間的catastrophic forgettingとEMA導入に伴う過学習のトレードオフをどう扱うかが論点。 - negative entropy正則化の効果やEMA融合の履歴保持の度合いについての詳細は要旨からは不明。 - 収束解析の前提条件や適用範囲は要旨からは不明。 - 他データセットや実車展開での挙動は要旨からは不明。

6. 次に読むべき論文は?

- Federated Learning(FL)におけるcatastrophic forgetting関連研究。 - Exponential Moving Average(EMA)を用いたモデル更新・教師なし/半教師あり学習手法。 - Negative entropy正則化やentropy-based regularizationの関連研究。 - Street Scene Semantic Understanding(S3U)向けsemantic segmentationのdomain-shift/汎化研究(Cityscapes, Camvid関連)。 - FLの収束解析に関する理論研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Wei-Bin Kou, Guangxu Zhu, Bingyang Cheng, Shuai Wang, Ming Tang, Yik-Chung Wu

分類: cs.RO, cs.LG

原文アブストラクト

Street Scene Semantic Understanding (denoted as S3U) is a crucial but complex task for autonomous driving (AD) vehicles. Their inference models typically face poor generalization due to domain-shift. Federated Learning (FL) has emerged as a promising paradigm for enhancing the generalization of AD models through privacy-preserving distributed learning. However, these FL AD models face significant temporal catastrophic forgetting when deployed in dynamically evolving environments, where continuous adaptation causes abrupt erosion of historical knowledge. This paper proposes Federated Exponential Moving Average (FedEMA), a novel framework that addresses this challenge through two integral innovations: (I) Server-side model's historical fitting capability preservation via fusing current FL round's aggregation model and a proposed previous FL round's exponential moving average (EMA) model; (II) Vehicle-side negative entropy regularization to prevent FL models' possible overfitting to EMA-introduced temporal patterns. Above two strategies empower FedEMA a dual-objective optimization that balances model generalization and adaptability. In addition, we conduct theoretical convergence analysis for the proposed FedEMA. Extensive experiments both on Cityscapes dataset and Camvid dataset demonstrate FedEMA's superiority over existing approaches, showing 7.12% higher mean Intersection-over-Union (mIoU).

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI