Alina Oprea
収録論文 4本 ・ フィジカルAI/ロボット学習
ロバスト性認証VLAセキュリティ/ワールドモデル強化学習セキュリティ
※arXiv著者名で収集。同姓同名の別人の論文が含まれる場合があります。
論文
- f-ダイバージェンスを用いたバックドア汚染攻撃に対する認証付きロバスト性フレームワークロバスト性認証2026/10/26
データサブサンプリングと特徴・ラベル・テストサンプルのノイズ付加を組み合わせ、f-ダイバージェンスに基づく合成可能な認証手法で多様な汚染攻撃に対するロバスト性を証明する汎用フレームワークを提案した。
- Localize-and-Detect: 命令チューニングモデルにおけるタスクレベルポイズニングの監査VLA2026/10/2
ベースモデルとファインチューニング済みモデルの出力のみを用いて、タスクレベルポイズニングの標的タスクを特定し、偏った内容を検出する2段階のブラックボックス監査手法を提案。
- ロボット学習パイプラインを侵害するためのワールドモデル攻撃セキュリティ/ワールドモデル2026/6/1
ワールドモデルを介して、一見安全な遠隔操作データに悪意のあるプロンプトや遷移ダイナミクスを埋め込み、危険な合成訓練データを生成してロボットポリシーを侵害する新たなデータポイズニング攻撃手法を提案した。
- 信頼できないシミュレータに注意:強化学習における報酬なしバックドア攻撃強化学習セキュリティ2026/2/1
シミュレータのダイナミクスを改ざんして、報酬を操作せずに強化学習エージェントに行動レベルのバックドアを仕込み、特定のトリガーで危険な行動を引き起こす攻撃手法「Daze」を提案し、実機ロボットへの転移も示した。
