Near-Duplicate Families Break Exact-Record Membership Inference
该论文研究成员推理（Membership Inference, MI）在近重复家族（near-duplicate families）存在时的失效问题。MI 用于判断某条记录是否出现在模型训练集中，正被越来越多地用于数据溯源和版权审计。这类应
#privacy-audit
共收录 9 条相关情报。
← 返回所有主题Predicting Privacy Leakage from Weight Spectral Density
本论文关注机器学习模型隐私审计的可扩展性问题。成员推理攻击（MIA）是评估模型是否泄露训练数据隐私的主流手段，但当前最先进的攻击需要训练大量计算昂贵的影子模型（shadow models），成本和算力开销极高，导致对大规模模型库或频繁迭代的
Subgroup Membership Inference Audits of Differentially Private Synthetic Text
该论文关注差分隐私（DP）合成文本发布中的残余隐私风险审计问题。合成数据被越来越多地提议作为敏感真实数据的替代品发布，即使通过DP对最坏情况隐私泄露提供理论保证，实践中仍存在残余风险。现有的成员推断攻击（MIA）审计只测量随机抽取记录的平均
PrivAudit: A Dual-Lens Auditing Framework for Website Privacy Practices under the CCPA
该论文针对《加州消费者隐私法案》(CCPA) 生效五年后缺乏规模化合规审计手段这一问题, 提出了一套名为 PrivAudit 的自动化审计框架。作者指出, 既有研究多依赖人工、个案式的执法与检查, 无法系统性地覆盖网站面向用户的两个关键合规
Privacy Audit as Bits Transmission: (Im)possibilities for Audit by One Run.
该论文研究差分隐私算法的隐私审计问题。传统审计通过模拟基于游戏的协议来猜测两个相邻数据集中哪一个是原始输入，通常需要数千次模拟，计算开销巨大。近期有工作提出对目标算法进行单次运行审计以大幅降低计算成本，但其通用性和所得经验隐私保证的紧致性尚
Picture the Epsilon: Pursuing Identity-Level Privacy Guarantees for Images
本文聚焦于图像到图像的人脸生成器（如 FaceFusion、InstantID）的隐私审计问题。尽管视觉差异常被当作隐私保护证据，但作者指出这种直观判断缺乏形式化的身份级隐私保证。为此，他们提出一个统一的审计框架，比较四种适用于预训练黑盒人
To Shuffle or not to Shuffle: Auditing DP-SGD with Shuffling.
本文研究差分隐私随机梯度下降（DP-SGD）中，使用数据打乱（shuffling）替代传统泊松子采样（Poisson subsampling）时隐私保证的准确性。传统DP-SGD通过泊松子采样随机选择每轮训练批次，但打乱因计算开销低、兼容性
Detecting Functional Memorization in Code Language Models
该研究探讨了代码语言模型中的功能性记忆（functional memorization）现象，即模型在生成代码时可能会复制训练数据中的功能逻辑，即使文本上不相似。现有工作主要基于文本重叠的审计指标来检测训练数据泄露，但代码具有功能等价而文本
Auditing Apple's DifferentialPrivacy.framework: Implementation Bugs, Misconfigurations, and Practical Risks
本文对苹果公司差分隐私框架（DifferentialPrivacy.framework）进行了首次客户端审计，覆盖 macOS Sonoma 14.2 和 Sequoia 15.6 系统。苹果自 2016 年起声称其设备分析数据受差分隐私保