日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ディープフェイク/敵対的攻撃/検出arXiv:2607.25842

敵対的ディープフェイク生成と浄化ベース敵対的検出の調査

Adversarial Deepfake Generation and an Investigation of Purification-Based Adversarial Detection

シェア:XThreadsFacebookLINEはてブBluesky

ImageCLEF 2026のディープフェイク生成・検出タスクに参加し、FLUX.1-devとPuLIDによる顔合成と多モデルPGD攻撃で生成スコア0.4170を達成。検出ではSigLIP+DINOv2とGenD-DINOv3のアンサンブルで精度99.4%を達成しつつ、浄化ベースの敵対的検出も独自に調査した。

詳しい要約

1. どんなもの?

本論文は、ImageCLEF 2026 Deepfake Detection and Generation Taskへの参加チーム「Go To Germany」の取り組みを報告する。画像生成タスクでは、FLUX.1-devとPuLIDを用いたID保存顔合成に、12の検出器を同時に標的とするmulti-model PGD攻撃(DiffJPEG-in-loop、MI/DI/EoT、adaptive weighting、two-stage warm-start)を組み合わせた。画像検出タスクでは、SigLIP+DINOv2(AI生成画像用)とGenD-DINOv3(顔改変用)の2つの相補的検出器をmax-probability ensembleで統合した。さらに公式提出に加え、purification-based adversarial detectionの調査を自発的に実施し、CLIP ViT-L/14バックボーンを共有する6つの検出器で3種類の検出信号を比較した。

2. 先行研究と比べてどこがすごい?

先行研究の多くは単一または少数の検出器に対する攻撃や、特定の検出器に特化した防御を扱うが、本手法は12検出器同時攻撃による高い回避率(主催者検出器90%、参加者検出器57.6%)を達成し、生成スコア0.4170を得た。検出タスクでは、ベースラインdeepfakeに対して99.4%の高精度を達成しつつ、実画像での偽陽性率が高いという課題を明らかにした。さらに、purification-based adversarial detectionの調査では、median-3 purification下のraw |Δlogit|信号がEFFORT検出器を通じてAUROC 0.81-0.98を達成し、単純なbackbone-preservation仮説を否定し、Q70でのJPEG品質クリフを発見した点が新規である。

3. 技術・手法の肝は?

画像生成では、FLUX.1-devをベースにPuLIDでIDを保持し、multi-model PGD攻撃を適用。攻撃はDiffJPEGをループに組み込み、MI(momentum)、DI(diverse input)、EoT(expectation over transformation)を統合し、adaptive weightingとtwo-stage warm-startを用いて12検出器を同時に騙す。画像検出では、SigLIP+DINOv2とGenD-DINOv3の出力をmax-probabilityで統合するensembleを構築。purification調査では、median-3フィルタでpurifyし、raw |Δlogit|、その他の信号をCLIP ViT-L/14バックボーンの6検出器(EFFORT含む)で比較した。

4. どうやって有効だと検証した?

ImageCLEF 2026公式評価で、生成タスクは主催者検出器に対する90%の回避率と参加者検出器に対する57.6%の回避率を達成し、最終生成スコア0.4170を獲得。検出タスクはベースラインdeepfakeで99.4%の精度を達成したが、実画像での偽陽性率が高く、最終検出スコア0.6986に留まった。purification調査では、4種類のadversarial sourceに対してAUROC 0.81-0.98を達成し、Q70での信号崩壊を確認した。

5. 議論はある?

検出タスクの高偽陽性率は、実画像を誤ってdeepfakeと判定する実用上の問題を示唆する。purification調査の結果は、単純なbackbone-preservation仮説(purificationがバックボーンを保存するためadversarial入力とclean入力が区別できない)を否定し、信号がJPEG品質に強く依存することを示す。Q70でのクリフは、実世界の画像圧縮がadversarial detectionの信頼性に影響を与える可能性を示す。ただし、調査は特定のバックボーン(CLIP ViT-L/14)とpurification法(median-3)に限定されており、一般化にはさらなる検証が必要である。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、FLUX.1-dev、PuLID、PGD攻撃、DiffJPEG、MI/DI/EoT、SigLIP、DINOv2、GenD-DINOv3、EFFORT、CLIP ViT-L/14などが挙げられる。次に読むべき論文は、これらの手法の原著論文や、purification-based adversarial detectionの基礎研究、およびImageCLEF 2026タスクの公式ベースライン論文が適切である。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Junghyun Kim, Seunghyun Kim, Jiyoung Woo

分類: cs.CV, cs.CR

原文アブストラクト

This paper describes the participation of team "Go To Germany" in the ImageCLEF 2026 Deepfake Detection and Generation Task. For the image generation task, we employ FLUX.1-dev with PuLID for identity-preserving face synthesis, combined with a multi-model PGD adversarial attack targeting 12 detectors simultaneously (DiffJPEG-in-loop, MI/DI/EoT, adaptive weighting, two-stage warm-start). Our approach achieved 90% evasion against organizer detectors and 57.6% against participant detectors, with a final generation score of 0.4170. For the image detection task, we combine two complementary detectors - SigLIP+DINOv2 for AI-generated images and GenD-DINOv3 for face manipulations - in a max-probability ensemble, achieving 99.4% accuracy on baseline deepfakes but suffering from high false-positive rates on real images, resulting in a final detection score of 0.6986. Beyond the official submission, we conducted a self-initiated investigation of purification-based adversarial detection, comparing three families of detection signals across six detectors that share a CLIP ViT-L/14 backbone. We find that raw $|Δ\text{logit}|$ under median-3 purification, applied through the EFFORT detector, separates adversarial inputs from clean inputs with AUROC 0.81-0.98 across four adversarial source types - a finding that refutes the simple backbone-preservation hypothesis and exposes a sharp JPEG-quality cliff at Q70 where the signal collapses.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  4. 4GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI