#image-synthesis

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Chen Gong 0005, Kecen Li, Zinan Lin 0001, Tianhao Wang 0001

本文针对差分隐私(DP)图像合成领域日益凸显的评估协议不一致、甚至存在缺陷的问题,提出了一个统一基准平台 DPImageBench。研究背景是:DP 图像合成旨在生成既能保留敏感图像数据集统计特性、又能保护单张图像隐私的人工图像,但不同研究在方法比较和评估流程上往往采用各不相同的协议,导致研究结论难以横向对比,也阻碍了该领域的进一步发展。核心贡献包括三方面:第一,方法层面,论文系统研究了十二种主流 DP 图像合成方法,并基于模型架构、预训练策略和隐私机制三个维度进行了分类刻画;第二,评估层面,整合了九个数据集和七个评估指标,全面衡量各方法效用,并揭示了一个关键问题——许多现有工作根据在敏感测试集上准确率最高来选择下游分类器,这种做法不仅违反差分隐私的约束,还会高估合成图像的实际效用,DPImageBench 对此进行了纠正;第三,平台层面,尽管各方法和评估协议差异较大,DPImageBench 提供了一个标准化接口,将现有和未来的实现统一到同一框架之下。基于该基准,论文取得了若干重要发现,例如:与传统认知(在公共图像数据集上预训练通常有益)相反,预训练数据与敏感图像之间的分布相似性对合成图像性能影响显著,且预训练并不总是带来效果提升。论文已提供源代码,适合差分隐私、生成模型、隐私保护机器学习等领域的研究人员阅读。

💡 推荐理由: 为 DP 图像合成提供了首个统一评估基准,纠正了现有评估中违反差分隐私的常见做法,避免后续研究被误导;其关于预训练影响的发现有助于更合理地设计隐私保护生成模型。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Kecen Li, Chen Gong 0005, Xiaochen Li, Yuzhong Zhao, Xinwen Hou, Tianhao Wang 0001

差分隐私图像合成旨在从敏感数据集中生成合成图像,缓解组织共享和使用合成图像时的隐私泄露问题。现有方法(如使用差分隐私随机梯度下降训练扩散模型)虽然取得进展,但性能仍不理想。受课程学习启发,本文提出一种两阶段差分隐私图像合成框架,让扩散模型从易到难地学习生成差分隐私图像。第一阶段为“简单阶段”,模型先学习敏感图像的简单特征;为此提出使用“中心图像”——即随机采样敏感数据集的聚合结果。这些中心图像虽不展示细节,但能体现所有图像的有用特征,且仅消耗极小的隐私预算,有助于模型早期训练。第二阶段再使用DP-SGD训练完整模型。实验在四个图像数据集上平均表明,合成图像的保真度和效用指标分别比当前最优方法提升33.1%和2.1%。论文提供了可复现的代码和数据集。

💡 推荐理由: 差分隐私图像合成是隐私保护数据共享的关键技术,本方法显著提升了合成图像质量,降低了隐私预算消耗,对需要安全共享敏感图像的组织具有重要参考价值。

🎯 建议动作: 纳入内部评估

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Chen Gong, Kecen Li, Zinan Lin, Tianhao Wang

该论文研究差分隐私(DP)图像合成问题,旨在从敏感数据集中生成保留统计特征的图像,同时提供严格的隐私泄漏保证。现有方法通常使用差分隐私随机梯度下降(DP-SGD)对公共模型进行全量微调,但公共模型参数数量庞大,导致计算成本高昂。近期工作启发式地采用低秩自适应(LoRA)对所有注意力层参数进行微调以减少可训练参数,然而在DP设置下,对所有注意力层参数进行LoRA覆盖是次优的,因为噪声会累积并导致训练崩溃。为解决此问题,论文提出DP-SAPF(Saliency-Aware Parameter Fine-tuning),一种显著性感知的参数微调方法。核心思路是:较大的梯度幅值表示较高的显著性,这些参数对DP学习最为关键。具体地,将敏感图像输入公共模型,计算梯度并添加噪声以满足DP要求,然后识别出在敏感图像上具有高梯度幅值的显著参数,仅对这些参数进行LoRA微调。在四个敏感图像数据集上的实验表明,DP-SAPF相比无参数选择的微调方法,在相同或更少计算资源下,提升了合成图像的效用和保真度。该方法适用于需要基于敏感数据(如医疗影像、人脸数据)生成合成图像以支持数据分析或模型训练的场景,同时满足差分隐私合规要求。

💡 推荐理由: 差分隐私图像合成能让蓝队/安全团队在共享敏感图像数据时,既保护隐私又保留数据可用性。DP-SAPF首次提出基于显著性选择LoRA参数,降低了训练噪声和计算开销,为实际部署差分隐私合成系统提供了更高效、更实用的方法。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)