コーディングエージェントがロボットアームを操る時代の安全リスク評価ベンチマーク

- 空間理解の進展により、frontier models が coding agents を介して実ロボットアームを zero-shot・end-to-end で制御できるようになった点に着目した研究。 - タスク固有の demonstrations や retraining を必要としない。 - この新たな状況が生む2つの安全課題（capability misuse と indirect prompt injection の物理世界への波及）を扱う。 - 両リスクを体系的に評価する初の benchmark「ArmedAgent」を導入。

- 従来の VLA・WAM paradigms では実行できなかったタスクを frontier models の広範な知識により coding agents が遂行可能になった点を指摘。 - これにより新たな capability misuse のリスクが生じることを強調。 - 既存 benchmark は coding agents の zero-shot ロボット制御における robustness・malicious use・indirect injection を体系的に扱っていない。 - ArmedAgent はこれら両リスクを同時に評価する初の benchmark と位置づけられている。

- coding agents が実ロボットアームを zero-shot・end-to-end で制御する設定を評価対象とする。 - 5 scenarios・36 tasks から構成され、robustness、malicious use、indirect injection をカバー。 - 一部タスクは従来の VLA paradigms では実行できなかった有害行為を標的に設計。 - simulation で評価し、physical robot arm でも検証。 - 広く使われる agent frameworks 上で複数の frontier models（GPT-6-Astra を含む）をテスト。

- 36 tasks・5 scenarios を simulation で評価。 - physical robot arm 上でも検証を実施。 - GPT-6-Astra を含む複数の frontier models を、広く使われる agent frameworks 上でテスト。 - その結果、現行システムに実質的な安全リスクがあることを確認。 - 個々のタスクの詳細な評価指標や定量結果は要旨からは不明。

- 現行の frontier models と agent frameworks に実質的な安全リスクがあると報告。 - capability misuse と、web pages や emails を介した indirect prompt injection が物理世界に波及する危険を指摘。 - 具体的な緩和策や防御手法、リスクの定量的大小、限界については要旨からは不明。

- 要旨で比較対象として挙げられている VLA paradigms および WAM paradigms の関連研究。 - indirect prompt injection に関する既存研究（agent のデジタル資源経由の攻撃）。 - coding agents や agent frameworks の安全性評価に関する研究。 - 具体的な論文名は要旨からは不明。