日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

システム/継続学習arXiv:2605.26473

Orion: オンデバイスオンライン継続学習のための自己適応型メモリ管理

Orion: Enabling Self-adaptive Memory Management for On-device Online Continual Learning

シェア:XThreadsFacebookLINEはてブBluesky

リソース制約のあるデバイス上でのオンライン継続学習(OCL)の実用的展開を可能にするため、メモリ圧力とワークロードの変化に応じてメモリ割り当てを動的に調整するフレームワークOrionを提案した。

詳しい要約

1. どんなもの?

- オンデバイス向けOnline Continual Learning (OCL)のメモリ制約下での学習を可能にするフレームワーク「Orion」を提案。 - 訓練遅延、可塑性、安定性のトレードオフをメモリ制約下で協調最適化。 - OSとアプリケーションレベルでメモリを動的に再割り当てし、バッチ処理、リプレイバッファ、最適化戦略を統合制御。 - システムレベルのデータプリフェッチも導入。 - Avalanche-libを用いてプロトタイプを実装し、多様なOCLアルゴリズム、ベンチマーク、ハードウェアで評価。 - 自律ナビゲーションロボットに統合し、実用性を実証。

2. 先行研究と比べてどこがすごい?

- 従来のオフラインパラメータチューニングは、OCL進行に伴うメモリ圧力とワークロード複雑性の動的変化に対応できない。 - Orionはオンラインで自己適応的にメモリを管理し、訓練遅延、可塑性、安定性を同時に最適化。 - 厳しいメモリ制約下でも最先端OCLモデルのオンデバイス展開を可能にする点が新しい。 - システムレベルとアプリケーションレベルを横断する統合的なアプローチを提供。

3. 技術・手法の肝は?

- 中核はURGE:『Buckets effect』原則(システム性能は最も不足するリソースに制約される)に基づく統一ランタイム指標。 - URGEを用いてOCLコンポーネント間でメモリを動的に再割り当て。 - バッチ処理、リプレイバッファ、最適化戦略をOSとアプリケーションレベルで協調制御。 - システムレベルのデータプリフェッチ技術で効率を最大化。 - Avalanche-lib上にプロトタイプを実装。

4. どうやって有効だと検証した?

- 多様なOCLアルゴリズム、ベンチマーク、自律ロボット向けハードウェアプラットフォームで評価。 - 現実的な自律ナビゲーションロボットに統合し、実用性を検証。 - 結果:訓練速度の大幅な向上、バランスの取れた性能維持、各種シナリオへの適応を確認。 - ランタイム、メモリ、エネルギーオーバーヘッドは最小限。

5. 議論はある?

- メモリ制約下でのOCLの実用的展開における課題を解決。 - 訓練遅延、可塑性、安定性のトレードオフを動的に管理する必要性を強調。 - オフラインチューニングの限界を指摘し、オンライン自己適応の重要性を議論。 - 具体的な限界や今後の課題については要旨からは不明。

6. 次に読むべき論文は?

- Avalanche-lib(OCLライブラリ) - URGE(本論文で提案された指標) - Buckets effect(理論的基礎) - その他、要旨で参照されている具体的なOCLアルゴリズムやベンチマークは不明。 - 同分野の定番として、Experience Replay、EWC、GEMなどのOCL手法が関連。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zexin Li, Nikil Dutt, Cong Liu

分類: eess.SY

原文アブストラクト

Online continual learning (OCL) enables real-time adaptation to new data, making it crucial for dynamic robotic applications. However, its practical deployment is hindered by memory constraints in resource-limited systems, which affect key trade-offs in training latency, plasticity, and stability. Unlike offline parameter tuning, which cannot account for the dynamic shift in memory pressure and workload complexity as OCL progresses, an online and self-adaptive approach is essential for robust on-device deployment. This paper proposes Orion, a holistic framework designed to co-optimize training latency, plasticity, and stability of state-of-the-art OCL models under strict memory constraints, enabling feasible on-device deployment. At its core, Orion leverages URGE, a unified runtime indicator grounded in the ``Buckets effect'' principle that system performance is bounded by its scarcest resource, to dynamically reallocate memory across OCL components by jointly coordinating batch processing, replay buffers, and optimization strategies at both the OS and application level. Furthermore, Orion introduces system-level data prefetching techniques to maximize efficiency. A system prototype of Orion has been implemented using the widely adopted \texttt{Avalanche-lib} and thoroughly evaluated across a diverse range of OCL algorithms, benchmarks, and hardware platforms commonly used in autonomous robotic applications. To further demonstrate its practical utility, Orion is integrated into a realistic autonomous navigational robot powered by OCL. The results show that Orion achieves significant training speedups while maintaining balanced performance and effectively adapting to various scenarios, all with minimal runtime, memory, and energy overhead, making Orion a practical solution for on-device continual learning.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI