日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

AI安全性/説明可能性arXiv:2606.22858

見えざる手:標的型アイデンティティ再関連付け攻撃によるモデル公平性とSHAPの操作

The Unseen Hand: Manipulating Model Fairness and SHAP with Targeted Identity Re-Association Attacks

シェア:XThreadsFacebookLINEはてブBluesky

機械学習モデルの公平性監査や説明可能性手法が、保護属性の影響を隠す巧妙な攻撃に対して脆弱であることを示し、モデル内部にアクセスせずに出力を操作する新たな攻撃手法を提案した。

詳しい要約

1. どんなもの?

- 機械学習モデルの公平性指標とSHAPによる説明を、モデル内部や特徴表現にアクセスせずに操作する攻撃手法。 - Targeted Identity Re-Association (TIRA) 攻撃を提案。 - 保護特徴の影響を隠蔽し、公平性指標を理想値に近づける。 - 2つのアルゴリズム: Probabilistic Micro-Shuffling (PMiS) と Probabilistic Rank-Shift Micro-Perturbation (PRSMP)。

2. 先行研究と比べてどこがすごい?

- 従来のdata-agnostic攻撃は検出可能な痕跡を残しステルス性に欠ける。 - TIRAはモデル内部や特徴表現へのアクセスを必要とせず、反復的かつ確率的に出力を操作。 - SHAP説明において保護特徴の残差寄与をほぼゼロにし、先行研究より大幅に改善。

3. 技術・手法の肝は?

- TIRAはモデルの出力を反復的・確率的に操作する攻撃ファミリー。 - PMiS: 局所的な隣接スワップを適用。 - PRSMP: 小さなランダム順位シフトを導入。 - モデル内部や特徴表現にアクセス不要。

4. どうやって有効だと検証した?

- 実験的にTIRA攻撃が公平性指標を理想値に近づけることを実証。 - SHAPベースの説明を混乱させ、保護特徴の残差寄与をほぼゼロにすることに成功。 - 先行研究と比較して大幅な改善を確認。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている先行研究: data-agnostic attacks, SHAP-based explanations。 - 関連手法: Probabilistic Micro-Shuffling (PMiS), Probabilistic Rank-Shift Micro-Perturbation (PRSMP)。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Sannaan Khan, Muhammad U. S. Khan

分類: cs.LG, cs.AI

原文アブストラクト

As machine learning models grow more influential and opaque, algorithmic fairness and explainability are critical for ensuring accountability. However, we demonstrate that these auditing mechanisms are themselves vulnerable to subtle manipulation, camouflaging the influence of protected features. While prior work on data-agnostic attacks has exposed this vulnerability, they leave behind detectable artifacts that compromise their stealth. We introduce Targeted Identity Re-Association (TIRA) attacks, a novel family of attacks that iteratively and probabilistically manipulate a model's outputs without requiring access to the model's internals or feature representations. We formalize two algorithms: Probabilistic Micro-Shuffling (PMiS), which applies localized adjacent swaps, and Probabilistic Rank-Shift Micro-Perturbation (PRSMP), which introduces small, randomized rank shifts. We empirically demonstrate that TIRA attacks are highly effective at pushing fairness metrics towards ideal values. Crucially, TIRA attacks successfully confound SHAP-based explanations, leaving effectively zero residual attribution for protected features, a major improvement over prior work.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2Google DeepMind、ロボット向けAIを発表新製品・発表
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4パナソニックHDなど、触覚に即応する両手作業AI「T-Rex」を共同開発研究・技術
  5. 5SoftBank主導、Agile Robotsが5億ドル調達 NVIDIAと日立も参加資金調達

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI