日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

安全制御/マニピュレーションarXiv:2509.19555

AnySafe: 潜在空間における安全制約パラメータ化による実行時適応型潜在安全フィルタ

AnySafe: Adapting Latent Safety Filters at Runtime via Safety Constraint Parameterization in the Latent Space

シェア:XThreadsFacebookLINEはてブBluesky

世界モデルの潜在空間で安全フィルタを構築し、ユーザが指定した制約画像のエンコーディングに条件付けすることで、実行時に任意の安全制約へ適応できる手法を提案。Frankaマニピュレータの視覚ベース制御タスクで有効性を実証した。

詳しい要約

1. どんなもの?

- 視覚ベース制御タスク向けの安全フィルタを、world model の latent space 上で実行時に適応させる手法「AnySafe」の提案。 - 安全制約を画像で表現し、その latent encoding に条件付けすることで、展開中にユーザ指定の制約へ適応可能。 - Hamilton-Jacobi (HJ) reachability analysis に基づく latent safety filter を拡張する位置づけ。 - Franka manipulator を用いた simulation および hardware 実験で検証。

2. 先行研究と比べてどこがすごい?

- 先行研究では HJ reachability を world model の latent space に適用し、視覚ベースの難タスク向け latent safety filter を合成できることが示されていた。 - しかし従来は安全制約が事前に既知で展開中は固定であり、シナリオ間の適応性が制限されていた。 - 本研究は制約を画像 encoding への条件付けで定義し、実行時に任意の安全制約へ適応できる点が新しい。 - 性能を犠牲にせず適応できることを示した点が先行研究との差分。

3. 技術・手法の肝は?

- 安全制約を、制約を表す画像の encoding に条件付けた latent-space similarity measure として定義。 - failure への類似度を conformal calibration により原理的に整合させ、システムが制約表現へどれだけ近づけるかを制御。 - constraint-parameterized latent safety filter を world model の imagination 内で完全に訓練。 - モデルが見た任意の画像を test-time constraint 候補として扱い、実行時適応を可能にする。

4. どうやって有効だと検証した?

- simulation および hardware 実験を、Franka manipulator を用いた視覚ベース制御タスクで実施。 - ユーザ指定の制約画像の encoding に条件付けることで実行時に適応し、性能を犠牲にしないことを示した。 - 詳細な評価指標や比較対象は要旨からは不明。 - 映像結果はプロジェクトページで公開。

5. 議論はある?

- 制約を画像で与える設計により任意制約への実行時適応を可能にする一方、制約表現の選び方や conformal calibration の感度などは要旨からは不明。 - world model の imagination 内訓練に依存するため、world model の忠実度や汎化性の影響は要旨からは不明。 - 実機 Franka での検証は示されているが、他ロボットや他タスクへの一般化は要旨からは不明。

6. 次に読むべき論文は?

- Hamilton-Jacobi (HJ) reachability analysis を latent space に適用した先行の latent safety filter 研究。 - world model を用いた model-based 制御・imagination 内訓練に関する研究。 - conformal prediction / conformal calibration を用いた安全・不確実性評価の研究。 - 視覚ベースの safe control および safety filter に関する研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Sankalp Agrawal, Junwon Seo, Kensuke Nakamura, Ran Tian, Andrea Bajcsy

分類: cs.RO, cs.LG

原文アブストラクト

Recent works have shown that foundational safe control methods, such as Hamilton-Jacobi (HJ) reachability analysis, can be applied in the latent space of world models. While this enables the synthesis of latent safety filters for hard-to-model vision-based tasks, they assume that the safety constraint is known a priori and remains fixed during deployment, limiting the safety filter's adaptability across scenarios. To address this, we propose constraint-parameterized latent safety filters that can adapt to user-specified safety constraints at runtime. Our key idea is to define safety constraints by conditioning on an encoding of an image that represents a constraint, using a latent-space similarity measure. The notion of similarity to failure is aligned in a principled way through conformal calibration, which controls how closely the system may approach the constraint representation. The parameterized safety filter is trained entirely within the world model's imagination, treating any image seen by the model as a potential test-time constraint, thereby enabling runtime adaptation to arbitrary safety constraints. In simulation and hardware experiments on vision-based control tasks with a Franka manipulator, we show that our method adapts at runtime by conditioning on the encoding of user-specified constraint images, without sacrificing performance. Video results can be found on https://any-safe.github.io

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI