誤情報検出2026/6/2arXiv:2606.04098

見ることが信じることではない ― 検索基盤型動画誤情報検出のベンチマーク

When Seeing Is Not Believing -- A Benchmark for Search-Grounded Video Misinformation Detection

動画の誤情報を検出するため、ウェブ検索で関連動画を探し比較するベンチマークEVID-Benchを構築し、最先端モデルの性能が低いことを示した。

詳しい要約

1. どんなもの？

- 検索に基づく動画誤情報検出のベンチマーク EVID-Bench を提案 - 動画単体では検証不能な、意味・証拠レベルの操作を対象 - 222本の動画、9種類の操作、3カテゴリ(AI generation, single-source editing, multi-source editing) - システムは open web を検索し、関連動画との比較で虚偽を特定する必要 - 全サンプルは frontier models の視覚検査単独では検出不能と検証済み

2. 先行研究と比べてどこがすごい？

- 従来の動画誤情報検出は入力動画単体の視覚的手がかりに依存しがち - 本研究は動画外の証拠(欠落・並べ替え・置換・再文脈化)を扱う点で異なる - 検索を前提とし、cross-video comparison を要求するベンチマークを初めて提供 - 単一動画では検出不能な操作を対象とし、frontier models でも視覚検査単独では不可能と確認 - 既存ベンチマークとの直接比較は要旨からは不明

3. 技術・手法の肝は？

- 検索拡張検証(retrieval-augmented verification)ベースラインを構築 - システムは open web を検索し、関連動画を取得 - 取得した複数動画を比較し、虚偽情報を特定 - 操作タイプは AI generation, single-source editing, multi-source editing の3カテゴリ - 評価は point-level と video-level の精度で実施

4. どうやって有効だと検証した？

- 9つの frontier multimodal models を retrieval-augmented verification baseline で評価 - 最高性能でも point-level accuracy 61.43%、video-level accuracy 43.24% - AI-generated manipulations が特に困難であることを確認 - 全サンプルが frontier models の視覚検査単独では検出不能であることを検証 - エラー分析により、無関係なアンカーへの固執、合成コンテンツの編集スプライスへの誤帰属、説明完了前の検索打ち切りなどの課題を特定

5. 議論はある？

- 現状の frontier models は検索を組み合わせても性能が低い - AI-generated manipulations への対処が特に難しい - モデルは無関係なアンカーに固執する傾向 - 合成コンテンツを編集スプライスと誤って帰属する - 操作を完全に説明する前に検索を打ち切ってしまう - これらの課題は今後の研究で解決すべき点として議論

6. 次に読むべき論文は？

- 要旨で参照/比較されている研究は明示されていない - 同分野の定番として retrieval-augmented generation (RAG) や multimodal misinformation detection の関連研究が挙げられる - 具体的な論文名は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Tao Yu, Yujia Yang, Shenghua Chai, Zhang Jinshuai, Haopeng Jin, Hao Wang, Minghui Zhang, Zhongtian Luo, Yuchen Long, Xinlong Chen, Jiabing Yang, Zhaolu Kang, Yuxuan Zhou, Zhengyu Man, Xinming Wang, Hongzhu Yi, Zheqi He, Xi Yang, Yan Huang, Liang Wang

分類: cs.CV

原文アブストラクト

Video misinformation increasingly operates at the semantic and evidential level: authentic footage may be selectively edited, temporally reordered, spliced across sources, or augmented with AI-generated content to construct false narratives. Such evidence-dependent manipulations cannot be reliably verified from the input video alone, because the missing, reordered, replaced, or recontextualized evidence lies outside the video itself. We introduce \textbf{EVID-Bench}, a benchmark for search-grounded video misinformation detection, where a system must search the open web for related videos and identify what information is false through cross-video comparison. EVID-Bench comprises 222 videos spanning 9 manipulation types across 3 categories: AI generation, single-source editing, and multi-source editing. All samples are verified to be undetectable by frontier models through visual inspection alone. We evaluate nine frontier multimodal models using a retrieval-augmented verification baseline. The best system achieves only 61.43\% point-level accuracy and 43.24\% video-level accuracy, while AI-generated manipulations remain especially challenging. Error analysis reveals recurring challenges: models fixate on irrelevant anchors, misattribute synthetic content to editorial splicing, and terminate search prematurely before fully explaining the manipulation.

arXivで原文を読む →arXiv概要ページ

← 論文一覧