#dataset-reuse

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Qirui Huang, Na Li, Hongsheng Hu, Zhi Zhang, Anmin Fu, Yansong Gao

本文首次系统地研究了“单数据集多模型”(ODMM)范式下的隐私放大风险。在ODMM中,同一个数据集(如人脸或医疗图像)被重复用于训练多个模型,每个模型独立部署为API服务以完成不同任务(如人脸识别、年龄估计、种族分类)。现有隐私研究工作多关注单个模型泄露,而忽视了多模型共同暴露带来的累积效应。作者首先建立了理论框架,证明隐私泄露会随暴露的ODMM模型数量增加而累积(称为ODMM隐私组合)。基于该理论,他们提出了PRIME方法,通过黑盒访问多个ODMM模型,聚合各模型泄露的隐私信号,并利用元分类器联合推断给定样本的成员身份。实验在五个隐私敏感的数据集(涵盖人脸分析、医学影像、文本归因分析三个领域)和多种模型架构(ResNet、ViT、Qwen3-1.7B)上进行,结果表明数据集在多模型间重用显著放大了隐私风险,PRIME攻击性能稳定优于单任务成员推理攻击。文中还探讨了差分隐私等缓解措施,但其代价是效用损失,且PRIME仍能超越单任务基线。该工作对多模型部署场景的隐私风险评估具有重要指导意义。

💡 推荐理由: 安全从业者需注意:当同一数据集被用于训练多个模型并分别暴露时,隐私泄露风险并非线性叠加而是显著放大。本文首次量化了这种累积效应,并提供了可操作的评估方法(PRIME),有助于在实际部署中重新审视多模型系统的隐私保护策略。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)