#causal-inference

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Ali Mahdavi, Azadeh Zamanifar, Amirfarhad Farhadi, Omid Kashefi

本文针对联邦学习中数据删除请求的合规需求(如GDPR的“被遗忘权”),提出了一种高效且精确的机器学习遗忘方法HF-KCU。联邦学习系统中,客户端可能要求删除其贡献的数据,传统做法是重新训练模型,但计算开销巨大。HF-KCU通过Krylov子空间中的共轭梯度迭代来近似影响函数,从而移除单个客户端的贡献,将计算复杂度从O(d^3)降低到O(kd)(k<<d)。方法引入因果加权机制,确保只有持有被删除数据的客户端收到参数更新,避免对其他未受影响客户端的模型产生扰动。此外,HF-KCU能够处理黑盒对抗扰动(对Hessian和梯度的有界扰动),在现实威胁模型下仍能优雅降级。实验在CIFAR-10、MNIST、Fashion-MNIST数据集上使用卷积网络(ResNet-18、SimpleCNN)和Transformer(ViT-Lite)架构验证。在CIFAR-10上采用Dirichlet(alpha=0.5)分区,HF-KCU相比重训练加速47.75倍,测试精度仅下降0.60%(71.16% vs 71.76%)。成员推理攻击在遗忘集上的成功率为0.499,与重训练的模型一致,证明了有效的隐私恢复。理论分析给出了Krylov近似误差的收敛保证( O((k^{1/2}-1)/(k^{1/2}+1)),k为Hessian条件数)。因果加权机制确保了手术式更新,避免异步联邦设置中基于梯度方法的不稳定性,且每次更新可直接归因于被删除数据的影响。该方法适用于异步删除请求且计算预算受限的生产联邦系统。

💡 推荐理由: 联邦学习中的数据删除合规性面临计算挑战,HF-KCU提供了高效且可对抗扰动的精确遗忘方案,保护用户隐私的同时维持模型性能,对安全工程师设计隐私优先的联邦系统有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Quan Yuan, Xiaochen Li, Linkang Du, Min Chen 0032, Mingyang Sun, Yunjun Gao, Shibo He, Jiming Chen 0001, Zhikun Zhang 0001

因果推断在多个科学研究领域扮演关键角色,其中平均处理效应(ATE)的估计是核心问题之一。然而,使用真实世界观测数据计算ATE会带来显著的隐私风险。差分隐私作为一种严格理论保证的隐私保护技术,已成为隐私保护数据分析的标准方法。但现有的差分隐私ATE估计工作通常依赖于特定假设、提供有限的隐私保护或无法实现全面的信息保护。为此,本文提出了PrivATE——一个实用的、确保差分隐私的ATE估计框架。考虑到不同场景对隐私保护级别的需求各异(例如,教育评估中仅考试成绩为敏感信息,而医疗记录的所有数据通常都需要保护),PrivATE设计了两种级别的隐私保护:标签级(仅保护结果变量)和样本级(保护所有变量)。通过推导自适应匹配界限(adaptive matching limit),PrivATE有效平衡了噪声引入的误差和匹配误差,从而获得更准确的ATE估计。实验评估在多个数据集和不同隐私预算下验证了PrivATE的有效性,其性能优于现有基线方法。该方法适用于需要因果推断又必须保护用户隐私的广泛应用场景,如医疗、教育和经济学分析。

💡 推荐理由: PrivATE首次在差分隐私框架下同时支持标签级和样本级隐私保护,有效平衡了噪声误差与匹配误差,为处理敏感观测数据的因果推断提供了实用且可扩展的解决方案。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)