日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

プライバシー監査arXiv:2610.24278

表形式基盤モデルにおけるデータセット推論:データ来歴とプライバシー監査

Dataset Inference for Data Provenance and Privacy Auditing in Tabular Foundation Models

シェア:XThreadsFacebookLINEはてブBluesky

ブラックボックスの表形式基盤モデルに対し、入力操作から得られる複数の信号を組み合わせて、特定のデータセットが事前学習に使われたかを判定する初のデータセット推論手法を提案した。

詳しい要約

1. どんなもの?

- Tabular Foundation Models (TFMs) の事前学習データに、ある疑わしい tabular dataset が含まれていたかを black-box API 経由で推定する手法 - 著者らはこれを TFMs 向けの初の dataset inference 手法と位置づけ - 目的は data provenance の確認と privacy auditing(privacy leakage・proprietary dataset 利用の検出) - 入力操作から観測できる複数の信号を組み合わせて dataset membership を推論する

2. 先行研究と比べてどこがすごい?

- 従来は TFMs に対して、ある tabular dataset が学習に使われたかを判定する専用手法が存在しなかった - 既存の dataset inference は主に画像・テキストなど他モダリティ向けで、TFMs 向けは未整備 - 本研究は TFMs に特化した初の dataset inference を提示 - 単一信号では証拠が弱いことを示しつつ、複数信号の組み合わせで高い識別性能(TFM 依存で最大 0.99 ROCAUC)を達成

3. 技術・手法の肝は?

- black-box TFM に対し input manipulation を行い、観測可能な複数の候補信号を体系的に収集・分析 - 個々の信号は training data membership の証拠として弱いと判明 - 相補的な複数信号を組み合わせて dataset membership を推論する枠組みを構築 - pre-training data composition、model capacity、real vs. synthetic data が識別に与える影響も分析

4. どうやって有効だと検証した?

- 実 tabular data で学習された複数の state-of-the-art TFMs に対して dataset membership 推論を実施 - TFM に依存しつつ最大 0.99 ROCAUC を達成したと報告 - pre-training data composition、model capacity、real vs. synthetic data の影響を実験的に検討 - 具体的なデータセット名・TFM 名・実験規模は要旨からは不明

5. 議論はある?

- 本手法を privacy leakage 検出および proprietary dataset 利用検出の実用的 auditing tool と位置づけ - 単一信号の弱さと複数信号統合の有効性を示す一方、識別性能が TFM に依存することを報告 - pre-training data composition や model capacity、real vs. synthetic data が識別に影響する点を議論 - 限界・誤検出リスク・適用範囲の詳細は要旨からは不明

6. 次に読むべき論文は?

- 本研究が比較対象とする既存の dataset inference 研究(画像・テキスト分野の定番手法) - membership inference attack に関する関連研究 - TFMs の代表的手法(TabPFN など、要旨で具体的名称は不明) - privacy auditing 全般のサーベイ論文 - synthetic data を用いた学習と privacy の関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Dariush Wahdany, Jesse Cresswell, Naiqing Guan, Atiyeh Ashari Ghomi, Franziska Boenisch, Adam Dziedzic

分類: cs.LG

原文アブストラクト

Tabular foundation models (TFMs) are increasingly deployed through black-box APIs and trained on large collections of real-world tabular datasets. As this training paradigm becomes more widely adopted, private or proprietary datasets may be incorporated into pre-training corpora, yet there are currently no dedicated methods for determining whether a given tabular dataset was used to train a TFM. As a solution, we introduce the first dataset inference method for TFMs, aiming to infer whether a suspect dataset was part of a model's pre-training data. We systematically analyze a broad collection of candidate signals that can be observed from a black-box TFM via input manipulation and find that individual signals provide only weak evidence of training data membership. However, by combining multiple complementary signals, we can infer dataset membership for several state-of-the-art TFMs trained on real tabular data, achieving up to 0.99 ROCAUC dependent on the TFM. We then study factors that influence dataset identification, including pre-training data composition, model capacity, and the use of real vs. synthetic data. Our results show that our dataset inference method is a practical auditing tool for detecting privacy leakage and the use of proprietary datasets in TFMs.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3Google DeepMind、ロボット向けAIを発表新製品・発表
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI