EU AI法遵守のためのロボティクス・自律システムのサイバーセキュリティ対策
Aportes para el cumplimiento del Reglamento (UE) 2024/1689 en rob\'otica y sistemas aut\'onomos
EU AI法が求めるロボットのサイバーセキュリティ要件を整理し、認知アーキテクチャの知識ベース保護を含む基本ツール群と、ロボット知識管理の評価基準10項目を提案した。
著者: Francisco J. Rodríguez Lera, Yoana Pita Lorenzo, David Sobrín Hidalgo, Laura Fernández Becerra, Irene González Fernández, Jose Miguel Guerrero Hernández
分類: cs.RO, cs.AI, cs.CR
原文アブストラクト
Cybersecurity in robotics stands out as a key aspect within Regulation (EU) 2024/1689, also known as the Artificial Intelligence Act, which establishes specific guidelines for intelligent and automated systems. A fundamental distinction in this regulatory framework is the difference between robots with Artificial Intelligence (AI) and those that operate through automation systems without AI, since the former are subject to stricter security requirements due to their learning and autonomy capabilities. This work analyzes cybersecurity tools applicable to advanced robotic systems, with special emphasis on the protection of knowledge bases in cognitive architectures. Furthermore, a list of basic tools is proposed to guarantee the security, integrity, and resilience of these systems, and a practical case is presented, focused on the analysis of robot knowledge management, where ten evaluation criteria are defined to ensure compliance with the regulation and reduce risks in human-robot interaction (HRI) environments.
関連論文
- ロボットセキュリティのためのプログラムレベル敵対的共適応自己対戦フレームワークロボットセキュリティ
- 学習ベース産業用ロボットアーム操作におけるバックドア:実証的セキュリティ研究ロボットセキュリティ
- プロンプトから物理動作へ:LLM搭載ロボットシステムの包括的脅威モデリングロボットセキュリティ
- POEX:LLMベースロボットに対するポリシー実行可能なジェイルブレイク攻撃ロボットセキュリティ
- LLM統合型移動ロボットシステムに対するプロンプトインジェクション攻撃の研究ロボットセキュリティ
- センサ欺瞞攻撃からロボット車両を守る診断誘導型攻撃復旧ロボットセキュリティ
