日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

エッジ推論arXiv:2606.14716

RAMS: 組み込みエッジ知覚のためのリソース適応型・検出条件付きモデル切替

RAMS: Resource-Adaptive and Detection-Conditioned Model Switching for Embedded Edge Perception

シェア:XThreadsFacebookLINEはてブBluesky

組み込みデバイス上でのエッジ物体検出において、リソース圧力に応じてYOLOv8の3段階モデルを動的に切り替える軽量ランタイム制御手法を提案し、遅延と精度のバランスを最適化する。

詳しい要約

1. どんなもの?

- 組込み edge 向けの object detection 実行時制御手法 RAMS を提案 - デバイス負荷を監視し、idle 時の挙動から切替閾値を校正 - 常駐する 3 段の YOLOv8 tier (NANO/SMALL/MEDIUM、320/416/640 px) を model-reload なしで動的選択 - 5 つの switching policy を定義し、うち 2 つは直近の vulnerable-road-user (VRU) 検出後に過度な downgrade を防ぐ detection-conditioned 型 - 注釈なしで policy 比較する指標 VRU-Weighted Accuracy Score (SWAS) と oracle-bounded 変種を導入 - Raspberry Pi 5、x86 laptop、Jetson Orin の ONNX/TensorRT 配備で同一制御式が 37x の latency 範囲で動作

2. 先行研究と比べてどこがすごい?

- 従来の threshold-only な切替に対し、detection-conditioned switching を導入 - 重負荷時に SWAS が oracle scoring で 25.4%、detector-derived scoring で 47.3% 改善 - Jetson Orin TensorRT 重負荷で safety2 policy は平均 3.41 ms、fixed-MEDIUM より 5.6x 高速 - その際 proxy accuracy の 74% を保持し、VRU-positive window では SMALL/MEDIUM を選択的に lock - model-reload latency なしで複数 tier を常駐させ、異種ハードでも同一制御式が成立 - 注釈不要の SWAS により offline policy 比較を可能にした点も従来と異なる

3. 技術・手法の肝は?

- 軽量 runtime controller が device pressure を監視 - idle behavior から switching threshold を calibrate - 3 つの resident YOLOv8 tier を reload なしで切替 - 5 つの switching policy を定義 - うち 2 つは detection-conditioned で、直近の VRU 検出後に aggressive downgrade を抑制 - SWAS は VRU 重み付き accuracy の scalar metric で、ground-truth annotation 不要 - oracle-bounded 変種で detector circularity と tier-retention benefit を分離

4. どうやって有効だと検証した?

- Raspberry Pi 5、x86 laptop、Jetson Orin の ONNX/TensorRT 配備で評価 - 同一 controller 式が 37x latency 範囲で動作することを確認 - Jetson Orin TensorRT 重負荷で safety2 が平均 3.41 ms、fixed-MEDIUM 比 5.6x 高速、proxy accuracy 74% 保持 - detection-conditioned switching が threshold-only 比で SWAS を oracle scoring 25.4%、detector-derived scoring 47.3% 改善 - Live KITTI 評価で per-tier VRU recall 24.2%、41.2%、59.0% を報告

5. 議論はある?

- reactive override は baseline detector recall に根本的に制限される - Live KITTI の per-tier VRU recall が 24.2%、41.2%、59.0% であることがその限界を示す - oracle-bounded variant により detector circularity と genuine tier-retention benefit を分離して議論 - その他の議論や限界は要旨からは不明

6. 次に読むべき論文は?

- YOLOv8 (NANO/SMALL/MEDIUM) - Raspberry Pi 5 - Jetson Orin (ONNX/TensorRT) - KITTI - vulnerable-road-user (VRU) 検出 - 関連する edge object detection の動的モデル切替研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Kushal Khemani, Evan Leri, George Xu, Amit Hod

分類: cs.CV, cs.AI, cs.RO

原文アブストラクト

Edge object detection on embedded hardware requires balancing inference latency and detection quality under changing resource pressure. We present RAMS, a lightweight runtime controller that monitors device pressure, calibrates switching thresholds from idle behavior, and dynamically selects among three resident YOLOv8 tiers (NANO/SMALL/MEDIUM at 320/416/640 px) without model-reload latency. RAMS defines five switching policies, including two detection-conditioned variants that prevent aggressive downgrades after recent vulnerable-road-user (VRU) detections. We further introduce the VRU-Weighted Accuracy Score (SWAS), a scalar metric for offline policy comparison without ground-truth annotations, together with an oracle-bounded variant that separates detector circularity from genuine tier-retention benefit. Across Raspberry Pi 5, x86 laptops, and Jetson Orin ONNX/TensorRT deployments, the same controller equations operate over a 37x latency range. On Jetson Orin TensorRT under heavy load, the safety2 policy achieves 3.41 ms mean latency, 5.6x faster than fixed-MEDIUM inference, while retaining 74% of its proxy accuracy through near-NANO operation with selective SMALL and MEDIUM locks during VRU-positive windows. Detection-conditioned switching improves SWAS by 25.4% under oracle scoring and 47.3% under detector-derived scoring relative to threshold-only policies under heavy load. Live KITTI evaluation reports per-tier VRU recall of 24.2%, 41.2%, and 59.0%, showing that reactive overrides are fundamentally limited by baseline detector recall.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI