日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

安全強化学習arXiv:2606.09559

Safe-RULE: 安全な強化学習のアンラーニング

Safe-RULE: Safe Reinforcement UnLEarning

シェア:XThreadsFacebookLINEはてブBluesky

オフライン安全強化学習に対するデータポイズニング攻撃の影響を除去するための防御フレームワークを提案し、再学習や元の環境へのアクセスなしに安全性を回復する手法を実証した。

詳しい要約

1. どんなもの?

- オフライン安全強化学習(Safe RL)におけるデータポイズニング攻撃に対する防御フレームワーク「Safe-RULE」を提案。 - 学習済みポリシーから毒データの影響を除去する新たな学習パラダイム「safe reinforcement unlearning」を導入。 - 再学習や元の訓練環境へのアクセスを必要とせず、安全性を向上させる。

2. 先行研究と比べてどこがすごい?

- 従来のオフラインSafe RLは静的データセットに依存し、ポイズニング攻撃に脆弱。 - 既存の防御手法は再学習や環境アクセスを必要とすることが多い。 - Safe-RULEは再学習不要で毒データの影響を除去し、安全性を強化する点が新しい。

3. 技術・手法の肝は?

- 強化学習のunlearningをオフラインSafe RLに拡張。 - タスク性能と安全制約の両方を明示的に考慮しながらunlearningを実行。 - 毒データの影響を除去するメカニズムを設計。

4. どうやって有効だと検証した?

- ベンチマークSafe RLタスクで実験を実施。 - データポイズニング攻撃に対する安全性性能の向上を実証。 - 有効性を定量的に評価。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 同分野の関連手法として、offline Safe RL、data poisoning attacks、reinforcement unlearningが挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Shixiong Jiang, Taozheng Zhu, Fanxin Kong

分類: cs.LG, cs.AI, cs.CR, cs.RO

原文アブストラクト

Offline safe reinforcement learning (Safe RL) enables policy learning without online interactions, making it suitable for safety-critical systems such as robotics systems. However, its reliance on static datasets exposes offline Safe RL to data poisoning attacks, where adversaries inject malicious samples that compromise safety and induce unsafe policy behavior. In this work, we propose a new learning paradigm, named safe reinforcement unlearning (Safe-RULE), used as a defense framework to remove the influence of poisoned data without retraining from scratch or requiring access to the original training environment. We further extend reinforcement unlearning to offline Safe RL by explicitly accounting for both task performance and safety constraints during the unlearning process. Experiments across benchmark Safe RL tasks demonstrate that our approach effectively enhances safety performance against data poisoning attacks.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI