Radha Poovendran
University of Washington
収録論文 3本 ・ フィジカルAI/ロボット学習
敵対的攻撃ツールエージェント安全制御
※arXiv著者名で収集。同姓同名の別人の論文が含まれる場合があります。
論文
- TAPDreamer: ワールドアクションモデルに対する転移可能な敵対的パッチ敵対的攻撃2026/10/5
公開エンコーダのみを用いて、タスクや行動アーキテクチャをまたいで転移する固定の敵対的パッチを生成し、ワールドアクションモデルの成功率をほぼゼロに低下させる攻撃手法を提案した。
- TOUCAN: 実世界のMCP環境から150万件のツールエージェントデータを合成ツールエージェント2025/10/1
約500の実世界MCP環境から150万件のツール利用軌跡を合成し、オープンソースのツールエージェント学習データを大規模に提供した論文。
- センサ故障・攻撃下のロボットのための耐故障ニューラル制御バリア関数安全制御2024/2/1
センサ故障や攻撃を受けるロボットでも安全性を保証できる新しいニューラル制御バリア関数(FT-NCBF)を提案し、データ駆動で学習する手法を開発した。
