銀行の中のカナリア：Private Evolutionにおけるユーザーレベルプライバシーの監査

本研究は、federated settingsで高忠実度のsynthetic dataを生成するPrivate Evolution (PE) のuser-level privacyを、protocol-awareなempirical auditによって評価するものである。serverが単一の共有candidate bankにコミットし、その約1%を既知のnon-private canaryから派生したprobeに置き換える。8種類のattack（unchanged-bank baseline、exact copies、plausible paraphrases、high-entropy synthetic nonces）を評価し、YelpとSentiment140で実験する。

PEはclipped user votesを共有candidate bank上で集約し、worst-case user contributionに合わせてnoiseをcalibrateしたdifferentially private histogramを作る。しかし、adversaryがPE protocolに従いつつworst-case privacy lossを実現できるかは不明であった。本研究はprotocol-aware empirical auditを導入し、formal worst-case privacyとprotocol-validなcandidate-bank manipulationで達成可能なleakageのgapを定量化する点が新しい。

serverが単一の共有candidate bankにコミットし、その約1%のentryを既知のnon-private canaryから派生したprobeに置き換える。8種類のattack（unchanged-bank baseline、exact copies、plausible paraphrases、high-entropy synthetic nonces）を評価する。PEの仕組みは、clipped user votesを共有candidate bank上で集約し、worst-case user contributionにcalibrateしたnoiseを加えてdifferentially private histogramを作る。

YelpとSentiment140での実験により、natural-text attackはtheoretical DP boundを大幅に下回る一方、nonce-based attackはより強いboundを与え、mechanismのprivacy ceilingに最も近づくことを示した。

natural-text attackはtheoretical DP boundを大幅に下回り、nonce-based attackはより強いboundを与えprivacy ceilingに最も近づく。これによりformal worst-case privacyとprotocol-validなcandidate-bank manipulationで達成可能なleakageのgapが定量化される。

要旨からは不明（PEの原論文やdifferentially private synthetic data、empirical privacy auditの関連研究が候補）。