Unifying Privacy Accounting: Information Equivalence and Information Loss
论文针对差分隐私（DP）中多种曲线型隐私定义并存、选择不同定义会影响隐私分析与效用的问题，提出统一的信息论框架。作者考虑四类主流定义：两个方向性的 (ε,δ)-DP 隐私轮廓、假设检验权衡函数对，以及扩展隐私损失分布。对固定输出分布的有序对
#DP-SGD
共收录 6 条相关情报。
← 返回所有主题To Shuffle or not to Shuffle: Auditing DP-SGD with Shuffling.
本文研究差分隐私随机梯度下降（DP-SGD）中，使用数据打乱（shuffling）替代传统泊松子采样（Poisson subsampling）时隐私保证的准确性。传统DP-SGD通过泊松子采样随机选择每轮训练批次，但打乱因计算开销低、兼容性
Decomposing Memorization Reduction in Privacy-Preserving Fine-Tuning of SLMs for CSIRTs
该论文针对CSIRT（计算机安全事件响应团队）在微调语言模型处理漏洞扫描记录时面临的隐私风险，首次实证研究了差分隐私随机梯度下降（DP SGD）与HMAC假名化两种隐私保护技术的交互效果。研究使用1B至3B参数的小语言模型（SLMs），在结
DP-MacAdam: Differentially Private Mechanism with Adaptive Clipping and Adaptive Momentum
本文提出了一种名为 DP-MacAdam 的新型差分隐私机制，旨在解决差分隐私随机梯度下降（DP-SGD）中固定梯度裁剪阈值导致的局限性。现有自适应裁剪算法（如 AdaClip）虽然能根据梯度经验均值和方差动态调整裁剪参数，从而获得更有效的
Rethinking the Security of DP-SGD: A Corrected Analysis of Differentially Private Machine Learning
这篇论文重新审视了差分隐私随机梯度下降（DP-SGD）的安全分析。DP-SGD广泛应用于机器学习中保护训练数据，其隐私保证通常通过一个安全游戏来分析，攻击者试图从机制输出中推断目标记录是否在训练集中，隐私泄露由隐私曲线（假阳性率作为假阴性率
Trade-off Functions for DP-SGD with Subsampling based on Random Shuffling: Tight Upper and Lower Bounds
本文研究了基于随机洗牌子采样（random shuffling）的差分隐私随机梯度下降（DP-SGD）在f-DP框架下的权衡函数（trade-off function）。与传统的泊松子采样（Poisson subsampling）不同，后者