日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

視覚言語フォレンジクスarXiv:2605.16962

OmniVL-Guard Pro: ツール拡張エージェントによる包括的視覚言語フォレンジクス

OmniVL-Guard Pro: A Tool-Augmented Agent for Omnibus Vision-Language Forensics

シェア:XThreadsFacebookLINEはてブBluesky

閉世界前提の既存の偽造検出手法を超え、外部ツール(リアルタイム検索、拡大、セグメンテーション等)を活用するエージェントを提案し、オープンワールドでのフォレンジクス推論を実現する。

詳しい要約

1. どんなもの?

- 既存の vision-language forgery detection/grounding は closed-world 前提で、モデル単体での検証を想定。 - しかし self-contained MLLM は有限な parametric knowledge、静的 training corpora、限られた perceptual resolution に制約され、動的な open-world forensics で性能上限がある。 - 特に外部手がかりを要する real-time event verification や、局所改ざんの fine-grained 精査を要する forgery segmentation で問題。 - そこでモデルを拡大するのではなく、外部ツールへ到達させる方向へ転換。 - 提案 OmniVL-Guard Pro は tool-augmented agent で、unified forensics を closed-world prediction から open-world clues-driven reasoning へ拡張する。

2. 先行研究と比べてどこがすごい?

- 従来は self-contained MLLM のパラメータ・学習コーパス・解像度の制約下で閉世界予測を行っていた。 - 本研究は『モデルを大きくする』のではなく『モデルを超えて外部ツールに到達させる』点が異なる。 - 外部ツール環境を統合し、open-world の手がかり駆動推論を可能にした。 - さらに tool-reasoning trajectory 生成と process-level supervision を導入し、推論過程の歪みも罰する。 - 結果として各種タスクで state-of-the-art かつ強い zero-shot generalization を示す。

3. 技術・手法の肝は?

- tool 環境を統合: real-time event search、local cropping and zooming、edge-anomaly screening、face detection、video frame extraction、SAM3-based segmentation。 - 高品質な tool-reasoning trajectory 生成のため Tree-Structured Self-Evolving Tool Trajectory Generation を導入。 - seed guidance、guider-free self-evolution、weakly-hinted hard sample synthesis で多様な trajectory を生成。 - これにより Full-Spectrum Tool Reasoning (FSTR) dataset を構築し学習に使用。 - さらに Checker-Guided Agentic Reinforcement Learning (CGARL) を提案。 - 答えは正しいが推論が歪んで…

4. どうやって有効だと検証した?

- Extensive experiments により、OmniVL-Guard Pro が various tasks で state-of-the-art performance を達成。 - 強い zero-shot generalization を示す。 - 具体的なデータセット名・ベースライン・評価指標は要旨からは不明。

5. 議論はある?

- 要旨からは不明。 - 想定される論点として、tool 環境の依存性、trajectory 生成コスト、CGARL の安定性、open-world での評価限界などが考えられるが、要旨に明記はない。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: 既存の vision-language forgery detection and grounding methods、self-contained MLLMs。 - 関連手法: SAM3-based segmentation、Tree-Structured Self-Evolving Tool Trajectory Generation、Checker-Guided Agentic Reinforcement Learning (CGARL)。 - 同分野の定番として、vision-language forgery detection、forgery grounding、MLLM-based forensics、tool-augmented agent、reinforcement learning for reasoning に関する論文を次に読むべき。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jinjie Shen, Zheng Huang, Yuchen Zhang, Yujiao Wu, Yaxiong Wang, Lechao Cheng, Shengeng Tang, Tianrui Hui, Nan Pu, Zhun Zhong

分類: cs.CV, cs.AI

原文アブストラクト

Existing vision-language forgery detection and grounding methods operate under a closed-world paradigm, assuming verification can be completed by the model alone. However, self-contained MLLMs are constrained by finite parametric knowledge, static training corpora, and limited perceptual resolution, creating a practical ceiling in dynamic open-world forensics -- particularly for real-time event verification requiring external clues and forgery segmentation demanding fine-grained scrutiny of local manipulations. To address these limitations, we shift from scaling up the self-contained model toward reaching beyond it. We propose \textbf{OmniVL-Guard Pro}, a tool-augmented agent that extends unified forensics from closed-world prediction to open-world clues-driven reasoning. OmniVL-Guard Pro integrates a tool environment spanning real-time event search, local cropping and zooming, edge-anomaly screening, face detection, video frame extraction, and SAM3-based segmentation. To generate high-quality tool-reasoning trajectories, we introduce \textbf{Tree-Structured Self-Evolving Tool Trajectory Generation}, which produces diverse trajectories through seed guidance, guider-free self-evolution, and weakly-hinted hard sample synthesis, yielding the Full-Spectrum Tool Reasoning (FSTR) dataset for training. We further propose \textbf{Checker-Guided Agentic Reinforcement Learning} (CGARL), which provides process-level supervision to penalize cases where the answer is correct but the reasoning is distorted. Extensive experiments demonstrate that OmniVL-Guard Pro achieves state-of-the-art performance across various tasks, and exhibits strong zero-shot generalization. The FSTR dataset and code for OmniVL-Guard Pro will be publicly released at https://github.com/shen8424/OmniVL-Guard-Pro.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI