日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

敵対的攻撃検出arXiv:2610.15628

医用画像向け深層ニューラルネットワークにおける方向性敵対的攻撃の堅牢な検出

Robust Detection of Directional Adversarial Attacks in Deep Neural Networks for Radiological Imaging

シェア:XThreadsFacebookLINEはてブBluesky

ランダムノイズによる追加攻撃とシグモイド関数の変化を利用し、医用画像への敵対的攻撃とその方向性を高精度に検出するフレームワークを提案した。

詳しい要約

1. どんなもの?

- 医用画像(X-ray, CT, MRI)向けDNNにおける敵対的攻撃の検出フレームワーク。 - ランダムノイズによる後続攻撃を利用し、Sigmoid関数の変動分析で敵対的摂動を識別。 - クリーン画像と攻撃画像間、および異なる攻撃版間の予測差を比較し、検出精度を向上。 - 3つの医用データセット(Chest X-Ray Images for Classification, Retinal Fundus Multi-disease Image Dataset, Brain Tumor Dataset)で評価。 - 最大99.8%のACCを達成し、既存防御機構を大幅に上回る。

2. 先行研究と比べてどこがすごい?

- 既存の防御機構と比較して、最大99.8%のACCを達成し、大幅に優れる。 - 攻撃強度が変化しても一貫して敵対的サンプルを識別し、偽陽性を低く抑える。 - 医用画像における敵対的攻撃の方向性を検出できる点が新しい。 - 臨床応用の可能性を示し、実世界展開の潜在性を強調。

3. 技術・手法の肝は?

- ランダムノイズを用いた後続攻撃を活用し、敵対的摂動を検出。 - Sigmoid関数の変動分析により、 genuine な医用画像と敵対的に操作された画像を区別。 - クリーン画像と攻撃画像間の予測差、および異なる敵対的変更版間の予測差を比較。 - これにより検出精度を向上させる。

4. どうやって有効だと検証した?

- 3つの医用データセット(Chest X-Ray Images for Classification, Retinal Fundus Multi-disease Image Dataset, Brain Tumor Dataset)で評価。 - 様々な攻撃シナリオ(ランダムノイズを含む)下でテスト。 - 最大99.8%のACCを達成し、既存防御機構を大幅に上回る。 - 攻撃強度が変化しても一貫して敵対的サンプルを識別し、偽陽性を低く抑える。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究や関連手法は明示されていない。 - 同分野の定番として、Adversarial Attacks on Medical Imaging, Defensive Distillation, Adversarial Training などが考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Tristan Malatyński, Joanna Jaworek-Korjakowska

分類: cs.CV, cs.CR, cs.LG

原文アブストラクト

Deep learning is now central to radiology, helping detect changes on X-rays, CTs, and MRIs. However, these systems are highly vulnerable to adversarial attacks - small, crafted perturbations that mislead models while appearing unchanged to humans. Such errors risk missed cancers or false positives. Studies show over 90% attack success on medical scans. Almost 30% of US hospitals use AI in imaging in 2023. Thus, an effective method of detecting such attacks and their directionality is crucial to ensure the credibility and reliability of medical systems based on DNNs. We propose a novel detection framework that leverages subsequent attacks using random noise to identify adversarial perturbations. Our approach uses the analysis of variations in the Sigmoid function to distinguish genuine medical images from adversarially manipulated ones. Specifically, we compare prediction differences between clean and attacked images, as well as between different adversarially altered versions, to improve detection accuracy. We evaluated our method on three popular medical datasets including 'Chest X-Ray Images for Classification', 'Retinal Fundus Multi-disease Image Dataset' and 'Brain Tumor Dataset' under various attack scenarios, including random noise. Our framework achieved up to 99.8% ACC in identifying adversarial directional attacks, significantly outperforming existing defense mechanisms. It consistently identified adversarial samples across varying attack strengths while keeping false positives low, showing strong reliability and potential for clinical use. Furthermore, our proposal highlights its potential for real-world deployment.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2Google DeepMind、ロボット向けAIを発表新製品・発表
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI