日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

機械学習忘却arXiv:2605.14309

ICED: 解釈可能な概念分解による概念レベルの機械学習忘却

ICED: Concept-level Machine Unlearning via Interpretable Concept Decomposition

シェア:XThreadsFacebookLINEはてブBluesky

視覚言語モデルにおいて、画像内の複雑に絡み合った概念を分解し、対象概念のみを選択的に忘却する概念レベルの機械学習忘却フレームワークを提案した。

詳しい要約

1. どんなもの?

- Vision-Language Models (VLMs) における machine unlearning を、画像やインスタンス単位ではなく concept 単位で行う枠組み ICED を提案。 - forgetting set から multimodal large language model を用いてタスク特化の compact な concept vocabulary を構築。 - 視覚表現を sparse かつ nonnegative な semantic concept の組み合わせに分解し、fine-grained な知識操作を可能にする。 - unlearning を concept-level optimization として定式化し、target concept を選択的に抑制しつつ、同一画像内の non-target semantics と global cross-modal knowledge を保持する。

2. 先行研究と比べてどこがすごい?

- 従来の VLM unlearning は image または instance level で行われ、対象知識の除去が不正確で無関係な semantics に影響しやすかった。 - 一枚の画像に複数の entangled な concept が含まれる場合、target concept と保持すべき contextual information の分離が困難という問題があった。 - 提案手法は concept-level で操作するため、target forgetting の網羅性、同一画像内 non-target knowledge の保持、model utility の維持において既存 VLM unlearning 手法より優れる。

3. 技術・手法の肝は?

- multimodal large language model により forgetting set から compact な task-specific concept vocabulary を構築。 - modality alignment に加え、visual representation を sparse で nonnegative な semantic concept の線形結合に分解。 - この分解により、fine-grained な知識操作のための明示的インターフェースを提供。 - unlearning を concept-level optimization として定式化し、target concept を選択的に抑制し、intra-instance non-target semantics と global cross-modal knowledge を保持。

4. どうやって有効だと検証した?

- in-domain および out-of-domain の forgetting 設定で広範な実験を実施。 - 提案手法がより包括的な target forgetting を実現し、同一画像内の non-target knowledge をより良く保持し、既存 VLM unlearning 手法と比較して competitive な model utility を維持することを示した。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照・比較されている既存 VLM unlearning 手法(具体的名称は要旨からは不明)。 - 関連する基盤として Vision-Language Models (VLMs)、multimodal large language model、machine unlearning の一般的文献。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Shen Lin, Jing Lin, Junhao Dong, Piotr Koniusz, Li Xu

分類: cs.CV, cs.AI, cs.LG

原文アブストラクト

Machine unlearning in Vision-Language Models (VLMs) is typically performed at the image or instance level, making it difficult to precisely remove target knowledge without affecting unrelated semantics. This issue is especially pronounced since a single image often contains multiple entangled concepts, including both target concepts to be forgotten and contextual information that should be preserved. In this paper, we propose an interpretable concept-level unlearning framework for VLMs, which constructs a compact task-specific concept vocabulary from the forgetting set using a multimodal large language model. In addition to modality alignment, visual representations are decomposed into sparse, nonnegative combinations of semantic concepts, providing an explicit interface for fine-grained knowledge manipulation. Based on this decomposition, our method formulates unlearning as concept-level optimization, where target concepts are selectively suppressed while intra-instance non-target semantics and global cross-modal knowledge are preserved. Extensive experiments across both in-domain and out-of-domain forgetting settings demonstrate that our method enables more comprehensive target forgetting, better preserves non-target knowledge within the same image, and maintains competitive model utility compared with existing VLM unlearning methods.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI