協調運転/安全性2025/10/1arXiv:2510.18123

SafeCoop: エージェント協調運転におけるフルスタック安全性の解明

SafeCoop: Unravelling Full Stack Safety in Agentic Collaborative Driving

自然言語ベースの協調運転における攻撃手法を分類し、セマンティックファイアウォールや多源合意を用いた防御パイプラインSafeCoopを提案・評価した。

詳しい要約

1. どんなもの？

- 自然言語ベースの協調運転(collaborative driving)における安全性・セキュリティ問題を初めて体系的に研究した論文 - V2X通信で自然言語を媒体とするパラダイムに対し、full-stackの安全・セキュリティ課題を整理 - 攻撃戦略のtaxonomyを構築し、防御パイプライン SafeCoop を提案 - CARLA の closed-loop シミュレーションで評価

2. 先行研究と比べてどこがすごい？

- 従来のV2Xはraw sensor data・neural features・perception resultsを通信媒体とし、帯域・semantic loss・interoperabilityに課題 - 自然言語媒体はsemantic richness・decision-level reasoning・低帯域・human-machine interoperabilityの利点があるとされる - 先行研究は自然言語の利点に注目するが、message loss・hallucination・semantic manipulation・adversarial attacks等の脆弱性は未解明 - 本論文は自然言語ベース協調運転のfull-stack安全性を初めて体系的に扱う点が新規

3. 技術・手法の肝は？

- 攻撃戦略の包括的taxonomy: connection disruption、relay/replay interference、content spoofing、multi-connection forgery - 防御パイプライン SafeCoop は以下を統合 - semantic firewall - language-perception consistency checks - multi-source consensus - agentic transformation function により cross-frame spatial alignment を実現 - これらを組み合わせて悪意ある言語メッセージを検出・緩和

4. どうやって有効だと検証した？

- CARLA の closed-loop simulation で32のcritical scenariosを評価 - 悪意ある攻撃下でdriving scoreが69.15%改善 - 悪意検出で最大67.32%のF1 scoreを達成 - 攻撃下と検出性能の両面から有効性を検証

5. 議論はある？

- 自然言語媒体は利点と同時に新たな脆弱性を導入する点を指摘 - 本研究は安全・セキュア・信頼できる言語駆動型協調運転研究への指針を提供 - 具体的な限界や未解決課題の詳細は要旨からは不明 - 実車・実環境での検証や他攻撃への一般化については要旨からは不明

6. 次に読むべき論文は？

- 自然言語を通信媒体とする協調運転の先行研究(要旨で参照される recent advances) - V2X通信の従来手法(raw sensor data・neural features・perception results) - CARLA を用いた closed-loop 評価研究 - adversarial attacks および semantic manipulation に関する研究 - multi-source consensus や semantic firewall など防御手法の関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xiangbo Gao, Tzu-Hsiang Lin, Ruojing Song, Yuheng Wu, Kuan-Ru Huang, Zicheng Jin, Fangzhou Lin, Shinan Liu, Zhengzhong Tu

分類: cs.CV, cs.AI, cs.CL, cs.RO

原文アブストラクト

Collaborative driving systems leverage vehicle-to-everything (V2X) communication across multiple agents to enhance driving safety and efficiency. Traditional V2X systems take raw sensor data, neural features, or perception results as communication media, which face persistent challenges, including high bandwidth demands, semantic loss, and interoperability issues. Recent advances investigate natural language as a promising medium, which can provide semantic richness, decision-level reasoning, and human-machine interoperability at significantly lower bandwidth. Despite great promise, this paradigm shift also introduces new vulnerabilities within language communication, including message loss, hallucinations, semantic manipulation, and adversarial attacks. In this work, we present the first systematic study of full-stack safety and security issues in natural-language-based collaborative driving. Specifically, we develop a comprehensive taxonomy of attack strategies, including connection disruption, relay/replay interference, content spoofing, and multi-connection forgery. To mitigate these risks, we introduce an agentic defense pipeline, which we call SafeCoop, that integrates a semantic firewall, language-perception consistency checks, and multi-source consensus, enabled by an agentic transformation function for cross-frame spatial alignment. We systematically evaluate SafeCoop in closed-loop CARLA simulation across 32 critical scenarios, achieving 69.15% driving score improvement under malicious attacks and up to 67.32% F1 score for malicious detection. This study provides guidance for advancing research on safe, secure, and trustworthy language-driven collaboration in transportation systems. Our project page is https://xiangbogaobarry.github.io/SafeCoop.

arXivで原文を読む →arXiv概要ページ

← 論文一覧