When T2I Synthetic Data Backfires: Amplified Privacy Risks in Real-Synthetic Mix Training
该论文研究了真实数据与文本到图像（T2I）生成数据混合训练（RSMT）对隐私泄露的影响。尽管在学术界和工业界，使用T2I合成数据扩充真实数据已成为缓解数据稀缺和隐私限制的常见做法，但先前研究主要关注合成数据替代敏感样本对隐私的保护作用，而忽
#membership inference
共收录 4 条相关情报。
← 返回所有主题Defending Against Membership Inference Attacks on Iteratively Pruned Deep Neural Networks.
模型剪枝是深度学习中常用的压缩技术，迭代式剪枝能在保持较低效用损失的同时实现更好的压缩效果。然而，本文分析表明迭代剪枝显著增加了模型的记忆化程度，使得剪枝后的模型更容易受到成员推断攻击的威胁。现有的大多数成员推断防御方法都是针对原始未剪枝模
Pop Quiz Attack: Black-box Membership Inference Attacks Against Large Language Models
本研究提出了一种针对大型语言模型（LLM）的成员推断攻击方法——PopQuiz攻击。成员推断攻击旨在判断某个特定数据样本是否被用于模型训练，从而泄露训练数据的隐私。该方法将目标数据转化为多项选择题的格式，通过黑盒访问模型（即仅能获取模型输出
A Unified Defense Framework Against Membership Inference in Federated Learning via Distillation and Contribution-Aware Aggregation.
本文针对联邦学习中的成员推断攻击提出了一种统一的防御框架。成员推断攻击旨在判断某个特定数据样本是否被用于训练模型，严重威胁用户隐私。现有防御方法存在计算开销大或可用性-隐私权衡不佳的问题。作者提出通过知识蒸馏和贡献感知聚合来协同防御：首先，