日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

説明可能性/音声arXiv:2606.14466

音声モデルにおける説明の脆さ:予測を変えずに帰属を操作する

The Perceived Fragility of Explanations in Audio Models: Manipulation of Attribution with Unchanged Predictions

シェア:XThreadsFacebookLINEはてブBluesky

音声ディープフェイク検出モデルにおいて、聞こえない摂動を用いて説明ヒートマップを操作できることを示した論文。

詳しい要約

1. どんなもの?

- 音声deepfake検出におけるpost-hoc説明手法の脆弱性を調査 - 画像分野の説明操作研究を音声に拡張 - 心理音響フレームワークを導入し、知覚不能な摂動を最適化 - モデルの帰属を最終分類から分離する - 最先端アーキテクチャで予測保持制約下の脆弱性を評価 - 操作コストを音声知覚品質指標と説明整合性基準で評価 - 敵対者はdeepfakeラベルを保持しつつ説明ヒートマップを系統的に歪められることを示す

2. 先行研究と比べてどこがすごい?

- 従来の説明操作研究は画像に限定され、標準的な$L_p$メトリクスを使用 - 本研究は音声領域に焦点を当て、心理音響フレームワークを導入 - 知覚不能な摂動を最適化し、予測を保持したまま説明を操作 - 音声特有の知覚品質指標と説明整合性基準で操作コストを評価 - 最先端アーキテクチャに対する脆弱性を実証

3. 技術・手法の肝は?

- 心理音響フレームワークに基づく知覚不能な摂動の最適化 - 予測保持制約下でモデル帰属を最終分類から分離 - 音声知覚品質メトリクスと説明整合性基準で操作コストを評価 - 最先端アーキテクチャに対して評価を実施 - コードはGitHubで公開: https://github.com/cncPomper/Audio-XAI

4. どうやって有効だと検証した?

- 最先端アーキテクチャに対して脆弱性を評価 - 厳格な予測保持制約下で実験 - 音声知覚品質メトリクスと説明整合性基準で操作コストを測定 - 敵対者がdeepfakeラベルを保持しつつ説明ヒートマップを系統的に歪められることを実証

5. 議論はある?

- 要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: 画像分野の説明操作研究(標準$L_p$メトリクスを使用) - 関連手法: post-hoc explanation methods, audio deepfake detection - 同分野の定番: 音声deepfake検出における説明手法(例: LIME, SHAP, Grad-CAMなど)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Piotr Kitłowski, Dominik Wiącek, Mateusz Modrzejewski

分類: cs.SD, cs.AI, cs.LG

原文アブストラクト

This paper investigates the fragility of post-hoc explanation methods in audio deepfake detection. While previous work on explanation manipulation focused on images using standard $L_p$ metrics, we introduce a psychoacoustic framework that optimizes inaudible perturbations to decouple model attributions from final classifications. We evaluate this vulnerability across state-of-the-art architectures under strict prediction-preserving constraints. By evaluating the manipulation cost through domain-specific perceptual audio quality metrics alongside explanation alignment criteria, our framework demonstrates that an adversary can systematically distort automated explanation heatmaps while preserving the predicted deepfake label. Full code available at: https://github.com/cncPomper/Audio-XAI

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2Google DeepMind、ロボット向けAIを発表新製品・発表
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4パナソニックHDなど、触覚に即応する両手作業AI「T-Rex」を共同開発研究・技術
  5. 5SoftBank主導、Agile Robotsが5億ドル調達 NVIDIAと日立も参加資金調達

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI