日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

安全フィルタ/視覚制御arXiv:2509.14758

事前学習済み視覚モデルを用いた潜在安全フィルタの設計

Designing Latent Safety Filters using Pre-Trained Vision Models

シェア:XThreadsFacebookLINEはてブBluesky

事前学習済み視覚モデルをバックボーンとして、視覚ベース制御システムのための安全フィルタを設計し、その有効性と学習方法のトレードオフを検証した論文。

詳しい要約

1. どんなもの?

- 視覚ベース制御システムの安全性を確保するための安全フィルタの設計に、事前学習済み視覚モデル(PVR)を活用する研究。 - PVRをバックボーンとして、故障集合を定義する分類器、Hamilton-Jacobi (HJ) reachabilityベースの安全フィルタ、潜在ワールドモデルを構築する。 - トレーニング方法(スクラッチ、ファインチューニング、フリーズ)のトレードオフや、リソース制約デバイスへの展開について議論する。

2. 先行研究と比べてどこがすごい?

- 従来の安全フィルタは古典的制御システムが中心で、視覚ベース制御への適用は限定的だった。 - PVRはロボティクス分野で有効な知覚バックボーンとして知られているが、安全フィルタ設計への応用は未検討だった。 - 本研究はPVRを視覚ベース安全フィルタに用いる有効性を初めて体系的に検討する点が新しい。

3. 技術・手法の肝は?

- PVRをバックボーンとして、故障集合を定義する分類器、HJ reachabilityベースの安全フィルタ、潜在ワールドモデルを構築する。 - トレーニング戦略として、スクラッチからの訓練、ファインチューニング、フリーズのトレードオフを議論する。 - 安全ポリシーへの切り替え判断に、学習したワールドモデルとQ関数のどちらが優れるかを評価する。 - リソース制約デバイスへの展開の実用的考慮事項を議論する。

4. どうやって有効だと検証した?

- 要旨からは不明(具体的な実験設定や評価指標は記載されていない)。 - 複数タスクでPVRの優劣を評価し、ワールドモデルとQ関数の比較を行うと述べられているが、詳細は不明。

5. 議論はある?

- トレーニング方法(スクラッチ、ファインチューニング、フリーズ)のトレードオフについて議論する。 - 単一のPVRが全タスクで優れているかどうかを評価する。 - 安全ポリシーへの切り替え判断に、学習したワールドモデルとQ関数のどちらが良いかを議論する。 - リソース制約デバイスへの展開の実用的考慮事項を議論する。

6. 次に読むべき論文は?

- Hamilton-Jacobi (HJ) reachabilityベースの安全フィルタに関する論文 - 事前学習済み視覚モデル(PVR)をロボティクスに応用した論文 - 潜在ワールドモデルに関する論文 - 視覚ベース制御の安全フィルタに関する論文

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ihab Tabbara, Yuxuan Yang, Ahmad Hamzeh, Maxwell Astafyev, Hussein Sibai

分類: cs.RO, cs.CV, cs.LG, cs.SY, eess.SY

原文アブストラクト

Ensuring safety of vision-based control systems remains a major challenge hindering their deployment in critical settings. Safety filters have gained increased interest as effective tools for ensuring the safety of classical control systems, but their applications in vision-based control settings have so far been limited. Pre-trained vision models (PVRs) have been shown to be effective perception backbones for control in various robotics domains. In this paper, we are interested in examining their effectiveness when used for designing vision-based safety filters. We use them as backbones for classifiers defining failure sets, for Hamilton-Jacobi (HJ) reachability-based safety filters, and for latent world models. We discuss the trade-offs between training from scratch, fine-tuning, and freezing the PVRs when training the models they are backbones for. We also evaluate whether one of the PVRs is superior across all tasks, evaluate whether learned world models or Q-functions are better for switching decisions to safe policies, and discuss practical considerations for deploying these PVRs on resource-constrained devices.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI