日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

画像生成arXiv:2606.23267

速度編集による安全な少数ステップ生成

Safe Few-Step Generation via Velocity Editing

シェア:XThreadsFacebookLINEはてブBluesky

フローマッチングを用いたテキスト画像生成において、安全条件付き後方分布に基づいて速度場を直接編集し、プロンプトを変えずに安全な出力へ軌道を誘導するトレーニング不要の手法VESFlowを提案した。

詳しい要約

1. どんなもの?

本論文は、flow matching ベースの text-to-image (T2I) 生成において、極めて少ないサンプリングステップでも安全で非センシティブなコンテンツを生成するための、training-free な安全性手法 VESFlow とその強化版 VESFlow+ を提案する。flow matching モデルが marginal velocity を学習することに着目し、安全条件付き posterior を用いて velocity field を直接編集することで、条件プロンプトを変えずに軌道を安全な出力へ誘導する。さらに、benign プロンプトでは出力が変わらないという観察に基づき、risk score ベースのフィルタリングで velocity editing を省略し計算コストを削減する。VESFlow+ は安全方向への編集に加え、不安全方向から遠ざける。

2. 先行研究と比べてどこがすごい?

従来の安全性・概念除去手法は、多数の denoising ステップにわたる反復的な trajectory steering や CLIP 中心の prompt embedding 操作に依存していた。しかし flow matching ベースの T2I 生成では、サンプリングステップが限られるため反復補正が制約され、また現代の context-aware text encoder では embedding レベルの介入効果が薄れるという根本的なボトルネックがあった。VESFlow はこれらの設計前提を回避し、training-free で極少ステップの flow matching に特化した安全性手法を実現する点が優れている。

3. 技術・手法の肝は?

flow matching モデルが marginal velocity を学習する性質を利用し、安全条件付き posterior を通じて velocity field を直接編集する。これにより条件プロンプトを変更せずに軌道を安全な出力へ誘導する。また、benign プロンプトでは VESFlow が出力を変えないという観察から、risk score ベースのフィルタリングを導入し、リスクが低い場合は velocity editing をバイパスして計算コストを削減する。VESFlow+ では、安全方向への編集に加えて不安全方向から押し離す操作も行う。

4. どうやって有効だと検証した?

実験結果として、4-step MeanFlow モデルにおいて、VESFlow+ がターゲット概念を除去し、NudeNet による attack success rate を Ring-A-Bell で 6.3%、MMA-Diffusion で 6.8% に低減しつつ、benign プロンプトでの fidelity を保持することを示した。

5. 議論はある?

要旨からは不明。

6. 次に読むべき論文は?

要旨で参照・比較されている研究として、flow matching、MeanFlow、Ring-A-Bell、MMA-Diffusion、NudeNet、CLIP が挙げられる。関連手法として、trajectory steering や prompt embedding manipulation を用いた安全性・概念除去手法が挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yujin Choi, Jaehong Yoon

分類: cs.CV, cs.CY

原文アブストラクト

Flow matching has recently emerged as a strong paradigm for state-of-the-art text-to-image (T2I) generation, enabling high-quality generation with a small number of sampling steps. As these models are increasingly integrated into real-world applications, ensuring safe and non-sensitive content generation has become a critical requirement. However, adapting safety and concept removal methods to this new generation framework remains an open challenge. Specifically, prior methods largely rely on iterative trajectory steering across a number of denoising steps or on CLIP-centric prompt embedding manipulation. These design assumptions pose fundamental bottlenecks for safety in flow matching-based T2I generation, where limited sampling steps constrain iterative correction and modern context-aware text encoders diminish the effectiveness of embedding-level interventions. In this paper, we propose VESFlow, a training-free safety method tailored to flow matching with extremely few sampling steps. Leveraging the fact that flow matching models learn the marginal velocity, we directly edit the velocity field via a safe-conditional posterior. VESFlow steers the trajectory toward safe outputs while leaving the conditioning prompt unchanged. Building on the observation that VESFlow leaves outputs unchanged under benign prompts, we further introduce a risk score-based filtering that bypasses velocity editing to reduce computational cost while preserving benign prompt generation. Based on this filtering, we propose VESFlow+, a stronger variant of VESFlow that not only edits the velocity toward the safe direction, but also pushes it away from the unsafe direction. Experimental results show that VESFlow+ removes the target concept, reducing the attack success rate by NudeNet to 6.3% on Ring-A-Bell and 6.8% on MMA-Diffusion on the 4-step MeanFlow model, while preserving fidelity on benign prompts.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI