日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

画像フォレンジクスarXiv:2609.37783

法廷におけるAI改ざん画像検出のためのベンチマークとデータセット

A Benchmark & Dataset for Detecting AI-Manipulated Visual Evidence in the Court System

シェア:XThreadsFacebookLINEはてブBluesky

法廷で証拠として使われる監視カメラやドライブレコーダー、スマホ写真を対象に、生成AIによる改ざん・捏造画像を検出するためのベンチマークとデータセットを構築した。

詳しい要約

1. どんなもの?

- 法廷・司法制度における証拠画像の真正性を評価するためのベンチマークとデータセット。 - 名称は CIFAR Synthetic Evidence Corpus for Detecting AI-Manipulated Images。 - 1,505 の写真項目(真正コントロール 720、操作・捏造画像 785)を含む。 - 監視カメラ、ドライブレコーダー、消費者向け写真の画像を対象。 - 操作は scene-condition edits、localized element edits、full fabrications に分類。 - 各項目に source provenance、manipulation tier、subtype、generator、prompt template、scene attributes のメタデータを付与。

2. 先行研究と比べてどこがすごい?

- 既存の image-forensics ベンチマークは face manipulation、classical tampering、general synthetic-image detection に焦点。 - それらは法廷に提出される視覚証拠の形式、証拠の証明内容を変える局所編集、消費者ツールによる脅威モデルに組織化されていない。 - 本ベンチマークは司法制度が直面する consumer-tool threat model に合わせて設計。 - 集約的な二値検出を超えた制御評価を可能にする構造化メタデータを提供。

3. 技術・手法の肝は?

- 監視、ドライブレコーダー、消費者写真の画像を収集。 - 真正コントロールと操作・捏造画像を区別してコーパスを構築。 - 操作を scene-condition edits、localized element edits、full fabrications の階層に分類。 - 現代の generative systems を用いて操作・捏造を生成。 - 各項目に source provenance、manipulation tier、subtype、generator、prompt template、scene attributes のメタデータを付与。 - 公開されている image-manipulation detectors でベースラインを確立。

4. どうやって有効だと検証した?

- 公開されている image-manipulation detectors を用いてベースライン評価を実施。 - 現在のシステムが証拠利用に問題となるエラープロファイルを示すことを確認。 - データセット、プロンプト、メタデータ、コード、ベースライン評価スクリプトを公開し、研究を支援。

5. 議論はある?

- 既存の法的・技術的ワークフローは画像改変・捏造の評価に十分対応していない。 - 現代の generative systems により非専門家でもプロンプトベースで画像を改変・捏造可能。 - 現在の検出システムのエラープロファイルは証拠利用に問題が残る。 - 要旨からは、具体的な議論の詳細や限界については不明。

6. 次に読むべき論文は?

- 要旨で参照されている既存の image-forensics ベンチマーク(face manipulation、classical tampering、general synthetic-image detection に関するもの)。 - 公開されている image-manipulation detectors のベースライン研究。 - 同分野の定番として、image forensics、synthetic image detection、deepfake detection に関する一般的な研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Kelly McConvey, Sajad Ebrahimi, Nima Jamali, Jalehsadat Mahdavimoghaddam, Matina Mahdizadeh Sani, Maksym Taranukhin, Wentao Zhang, Jacquelyn Burkell, Yuntian Deng, Karen Eltis, Maura R. Grossman, Vered Shwartz, Ebrahim Bagheri

分類: cs.CV, cs.AI

原文アブストラクト

Photographic evidence is becoming increasingly vulnerable to forms of alteration and fabrication that existing legal and technical workflows are not well equipped to evaluate. Surveillance frames, dashcam stills, and phone photographs may be used to establish presence, sequence, causation, damage, or identity, yet contemporary generative systems allow non-experts to alter or fabricate such images through ordinary prompt-based interfaces. Existing image-forensics benchmarks provide important resources for face manipulation, classical tampering, and general synthetic-image detection, but they are not organized around the forms of visual evidence submitted in courts, the localized edits that can change what an exhibit appears to prove, or the consumer-tool threat model now facing the justice system. We introduce the CIFAR Synthetic Evidence Corpus for Detecting AI-Manipulated Images, a benchmark for evidentiary image authentication in court and justice-system contexts. The corpus contains 1,505 photographic items, including 720 authentic controls and 785 manipulated or fabricated images, spanning surveillance, dashcam, and consumer-photo imagery. Manipulations are organized into scene-condition edits, localized element edits, and full fabrications produced with contemporary generative systems. Each item is released with structured metadata covering source provenance, manipulation tier, subtype, generator, prompt template, and scene attributes, enabling controlled evaluation beyond aggregate binary detection. We also establish baselines with publicly available image-manipulation detectors, showing that current systems exhibit error profiles that remain problematic for evidentiary use. The dataset, prompts, metadata, code, and baseline evaluation scripts are released to support research on visual evidence authentication, information integrity, and trustworthy AI for the justice system.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  4. 4GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI