#image-synthesis

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Kecen Li, Chen Gong 0005, Xiaochen Li, Yuzhong Zhao, Xinwen Hou, Tianhao Wang 0001

差分隐私图像合成旨在从敏感数据集中生成合成图像,缓解组织共享和使用合成图像时的隐私泄露问题。现有方法(如使用差分隐私随机梯度下降训练扩散模型)虽然取得进展,但性能仍不理想。受课程学习启发,本文提出一种两阶段差分隐私图像合成框架,让扩散模型从易到难地学习生成差分隐私图像。第一阶段为“简单阶段”,模型先学习敏感图像的简单特征;为此提出使用“中心图像”——即随机采样敏感数据集的聚合结果。这些中心图像虽不展示细节,但能体现所有图像的有用特征,且仅消耗极小的隐私预算,有助于模型早期训练。第二阶段再使用DP-SGD训练完整模型。实验在四个图像数据集上平均表明,合成图像的保真度和效用指标分别比当前最优方法提升33.1%和2.1%。论文提供了可复现的代码和数据集。

💡 推荐理由: 差分隐私图像合成是隐私保护数据共享的关键技术,本方法显著提升了合成图像质量,降低了隐私预算消耗,对需要安全共享敏感图像的组织具有重要参考价值。

🎯 建议动作: 纳入内部评估

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Chen Gong 0005, Kecen Li, Zinan Lin 0001, Tianhao Wang 0001

本文针对差分隐私(DP)图像合成领域的研究现状,指出当前存在不一致甚至存在缺陷的评估协议,阻碍了方法的理解和领域发展。为此,作者提出了DPImageBench,一个统一的基准测试框架,从三个维度精心设计:(1)方法层面,研究了12种主流方法,并基于模型架构、预训练策略和隐私机制进行系统分类;(2)评估层面,包含9个数据集和7项指标,全面评估各方法性能,特别纠正了常见的不当做法——在敏感测试集上根据最高准确率选择下游分类器,这既违反DP原则又高估了效用;(3)平台层面,提供标准接口,支持当前和未来的实现统一集成。通过DPImageBench,作者获得若干重要发现,例如,与通常认为公共图像数据集预训练总是有益的常识相反,预训练数据与敏感图像的分布相似性对合成图像性能有显著影响,且并非总能带来提升。源代码已公开。本文适合差分隐私、生成模型、图像合成领域的研究者和工程师阅读。

💡 推荐理由: 该基准测试统一了评估协议,纠正了常见错误实践,为差分隐私图像合成研究提供了可靠比较基础,相关发现有助于指导实际应用中的预训练策略选择。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Chen Gong, Kecen Li, Zinan Lin, Tianhao Wang

该论文研究差分隐私(DP)图像合成问题,旨在从敏感数据集中生成保留统计特征的图像,同时提供严格的隐私泄漏保证。现有方法通常使用差分隐私随机梯度下降(DP-SGD)对公共模型进行全量微调,但公共模型参数数量庞大,导致计算成本高昂。近期工作启发式地采用低秩自适应(LoRA)对所有注意力层参数进行微调以减少可训练参数,然而在DP设置下,对所有注意力层参数进行LoRA覆盖是次优的,因为噪声会累积并导致训练崩溃。为解决此问题,论文提出DP-SAPF(Saliency-Aware Parameter Fine-tuning),一种显著性感知的参数微调方法。核心思路是:较大的梯度幅值表示较高的显著性,这些参数对DP学习最为关键。具体地,将敏感图像输入公共模型,计算梯度并添加噪声以满足DP要求,然后识别出在敏感图像上具有高梯度幅值的显著参数,仅对这些参数进行LoRA微调。在四个敏感图像数据集上的实验表明,DP-SAPF相比无参数选择的微调方法,在相同或更少计算资源下,提升了合成图像的效用和保真度。该方法适用于需要基于敏感数据(如医疗影像、人脸数据)生成合成图像以支持数据分析或模型训练的场景,同时满足差分隐私合规要求。

💡 推荐理由: 差分隐私图像合成能让蓝队/安全团队在共享敏感图像数据时,既保护隐私又保留数据可用性。DP-SAPF首次提出基于显著性选择LoRA参数,降低了训练噪声和计算开销,为实际部署差分隐私合成系统提供了更高效、更实用的方法。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)