日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2609.38899

SceneJail: 動画シナリオの文脈を悪用したマルチモーダルLLMのジェイルブレイク

SceneJail: Exploiting Video Scenario Context to Jailbreak Multimodal LLMs

シェア:XThreadsFacebookLINEはてブBluesky

動画入力の周囲シナリオを適応的に構築・探索することで、有害クエリへの安全応答を回避するブラックボックス型ジェイルブレイク手法を提案し、8つのVideo-MLLMで最大91.5%の攻撃成功率を達成した。

詳しい要約

1. どんなもの?

- Video-MLLMs に対する jailbreak 攻撃の新手法 SceneJail を提案 - ビデオを単なる運搬媒体ではなく、周囲の scenario を文脈的攻撃面として利用 - 同じ有害クエリでもビデオ scenario が異なると安全性応答が変わることを示す - 適応的 black-box フレームワークで、2つの協調コンポーネントから成る - HADES と SafeBench で8つの Video-MLLMs を評価

2. 先行研究と比べてどこがすごい?

- 既存の video jailbreak は有害クエリの視覚的提示方法を操作するに留まる - ビデオを単なる carrier として扱い、周囲の scenario を未探索の攻撃面として残していた - 本研究は scenario の文脈的互換性を適応的に探索する点で異なる - 最強 baseline を 29.1 ポイント上回る ASR 91.5% を達成 - 画像フィルタリング下でも 72.3% ASR を維持し堅牢

3. 技術・手法の肝は?

- SceneJail は2つの協調コンポーネントから成る - Adaptive Scenario Construction: 有害クエリと文脈的に互換な周囲 scenario を動的に探索 - Scenario-aware Prompt Search: black-box 応答フィードバックを用い、選択 scenario に合わせたテキスト guidance を探索 - SceneJail-F は完全なクエリを持続的に提示 - SceneJail-S はクエリを連続フレームに分散して提示

4. どうやって有効だと検証した?

- HADES と SafeBench データセットで評価 - 8つの Video-MLLMs を対象、うち2つは proprietary モデル GPT-4.1 と Gemini3.5-Flash - SceneJail-F は平均 ASR 最大 91.5% を達成 - 最強 baseline より 29.1 ポイント高い - SceneJail-S は厳格な image filtering 下でも 72.3% ASR を保持

5. 議論はある?

- ビデオ scenario が文脈的攻撃面として機能することを示す - 同じ有害クエリでも scenario により安全応答が変化する - 既存防御に対する SceneJail-S の堅牢性が示唆される - 具体的な防御策や倫理的議論は要旨からは不明 - 限界や今後の課題は要旨からは不明

6. 次に読むべき論文は?

- HADES データセット - SafeBench データセット - GPT-4.1 - Gemini3.5-Flash - 既存の video jailbreak 手法(要旨で比較対象として言及)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Wenyu Chen, Li Wang, Chuanchao Zang, Xiangtao Meng, Xinyu Gao, Jianing Wang, Zheng Li, Shanqing Guo

分類: cs.CR, cs.AI, cs.LG

原文アブストラクト

Video Multimodal Large Language Models (Video-MLLMs) support reasoning over video inputs, yet remain vulnerable to jailbreak attacks that elicit policy-violating responses. Existing video jailbreaks primarily manipulate how harmful queries are visually presented, thereby treating video merely as a carrier. Consequently, the surrounding video scenario remains unexplored as a contextual attack surface. In this paper, we show that the same harmful query can elicit different safety responses when placed in different video scenarios. To systematically exploit this vulnerability, we propose SceneJail, an adaptive black-box jailbreak framework with two coordinated components. Adaptive Scenario Construction dynamically searches for a surrounding scenario that is contextually compatible with the harmful query. Scenario-aware Prompt Search uses black-box response feedback to search for textual guidance tailored to the selected scenario. Extensive evaluations on the HADES and SafeBench datasets across eight Video-MLLMs, including two proprietary models, GPT-4.1 and Gemini3.5-Flash, demonstrate the effectiveness of SceneJail. SceneJail-F, which presents the complete query persistently, achieves average attack success rates (ASR) up to 91.5%, outperforming the strongest baselines by 29.1 percentage points. Furthermore, SceneJail-S, which distributes the query across successive frames, remains highly robust against current defenses, retaining a 72.3% ASR even under strict image filtering.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI