#privacy-preserving-machine-learning

共收录 5 条相关安全情报。

← 返回所有主题
推荐 9.4
Conf: 50%
👥 作者: Andreas Brüggemann, Robin Hundt, Thomas Schneider 0003, Ajith Suresh, Hossein Yalame

本文提出FLUTE协议,用于安全多方计算(MPC)中快速且安全的查找表(LUT)评估。传统的布尔电路在安全计算中存在较大的在线阶段开销,而查找表可以替代传统门电路(如AND、XOR),生成更紧凑的电路,并显著提升在线性能。已有工作利用LUT实现了安全浮点计算和隐私保护机器学习推理,但存在设置阶段开销大或在线性能不足的问题。FLUTE在两方设定下,通过创新的协议设计,在保持与最佳先前LUT协议相当的整体性能的同时,在线阶段性能提升达两个数量级。核心方法包括优化预处理阶段和在线阶段的通信轮次与计算量。作者还提供了基于Rust语言的开源实现,以及ABY2.0和silent OT布尔安全两方计算协议的实现。实验结果表明,FLUTE在在线阶段的延迟和通信量上均显著优于现有方案,为安全计算的实际应用提供了更高效的LUT评估工具。

💡 推荐理由: FLUTE大幅降低了安全多方计算中查找表评估的在线计算开销,直接推动隐私保护机器学习推理、安全浮点运算等场景的落地效率,对安全工程师设计高性能MPC系统具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
推荐 3.5
Conf: 50%
👥 作者: Mohammad Partohaghighi, Roummel Marcia

本文提出了一种新的差分隐私随机梯度下降(DP-SGD)变体,称为分数阶差分隐私随机梯度下降(FO-DP-SGD)。传统的DP-SGD通过逐样本裁剪、子采样、高斯扰动和隐私会计来保护隐私,每步只释放当前裁剪并加噪的梯度求和。FO-DP-SGD在加噪之前将当前裁剪的梯度求和与过去若干步已释放的私有求和输出进行加权聚合,其中权重遵循幂律分布(分数阶记忆),从而在释放机制中引入分数阶记忆。该方法保持了标准的“求和-加噪-除以批量大小”结构。在Poisson子采样下的增/删邻接关系中,敏感性分析表明只有当前步的裁剪求和是新的数据依赖项,因此有效ℓ2敏感性至多为βC(C为裁剪阈值,β∈(0,1]控制当前步贡献)。因此,FO-DP-SGD可借助Poisson子采样高斯机制的标准每步Rényi差分隐私会计来获得全局(ε,δ)-差分隐私保证。FO-DP-SGD提供了一个研究私有优化中长期记忆效应的框架,分数阶、记忆窗口和混合系数共同调节当前步敏感性、信号保留和私有历史影响之间的权衡。在SVHN、CIFAR-10和CIFAR-100数据集上的实验表明,与DP-SGD、DP-Adam、DP-IS、SA-DP-SGD、ADP-AdamW、DP-SAT和DP-Adam-AC等基线相比,FO-DP-SGD在测试准确率和隐私-效用权衡方面均有提升。

💡 推荐理由: 该研究提出了一种新颖的差分隐私机制扩展,通过分数阶记忆改善隐私-效用权衡,可能为实际部署隐私保护深度学习提供更优方案,值得关注差分隐私优化的从业者深入研究。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Yu Zheng, Chenang Li, Zhou Li 0001, Qingsong Wang

本文提出CARIBOU框架,一种面向多层图神经网络的隐私保护方案。核心创新在于将收缩图层(Contractive Graph Layer, CGL)与收敛隐私会计相结合,实现边缘级差分隐私(EDP)和节点级差分隐私(NDP)下的深度聚合,同时保持较高的模型效用。传统GNN隐私保护方法往往在深层网络中面临隐私预算快速耗尽或效用严重下降的困境。CARIBOU通过设计收缩消息传递机制,限制每一层信息的扩散幅度,从而在不显著增加敏感度的情况下支持更多层的聚合。结合收敛隐私会计,能够更精确地追踪总体隐私损失,避免过估计。实验表明,在多个图基准数据集上,CARIBOU在相同隐私预算下比现有方法显著提升分类准确率,尤其在深度GNN中优势更为明显。该工作为隐私敏感场景下的图数据分析提供了可行方案。

💡 推荐理由: 该研究解决了深层GNN隐私保护的难题,提出的收缩消息传递与收敛隐私会计方法具有通用性,可应用于社交网络分析、医疗图数据等需要严格隐私保护的场景。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Chen Gong 0005, Zheng Liu, Kecen Li, Tianhao Wang 0001

该论文提出了PrivORL,这是首个将差分隐私(DP)应用于离线强化学习(RL)数据集合成的方法。离线RL通过共享预收集的轨迹或过渡数据来训练智能体,避免与环境的直接交互,在导航等关键任务中有效。然而,数据集可能包含敏感信息,存在隐私泄露风险。PrivORL利用扩散模型(用于过渡合成)和扩散Transformer(用于轨迹合成)在差分隐私保护下生成合成数据集。该方法采用先在公开数据集上预训练生成器,再在敏感数据集上使用DP-SGD微调的策略。此外,PrivORL引入好奇心驱动的预训练,通过好奇心模块的反馈增加合成数据的多样性,从而生成与敏感数据集高度相似且多样化的合成过渡和轨迹。在五个敏感离线RL数据集上的大量实验表明,与基线方法相比,PrivORL在DP过渡和轨迹合成中均实现了更优异的效用和保真度。论文提供了GitHub仓库的复现包。

💡 推荐理由: 离线强化学习在医疗、金融等敏感场景中的应用日益广泛,数据集隐私泄露可能造成严重后果。PrivORL提供了首个实用的差分隐私数据合成方案,有助于在保护隐私的同时推动离线RL研究的发展。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Judith Sáinz-Pardo Díaz, Álvaro López García

本文针对联邦学习中的隐私保护问题,提出了一套完整的隐私保护机器学习工作流,专注于敏感表格数据。首先,结合匿名化与差分隐私技术,在数据层面和模型训练层面提供隐私保障。其次,对客户端漂移(client drift)给出了正式定义,并设计了检测方法以减轻投毒攻击的影响。核心贡献在于提出了一种基于重识别风险度量的个性化全局差分隐私预算分配方法,允许为网络中不同客户端分配差异化的隐私预算。在公开的医疗记录数据集上的实验表明,与固定全局差分隐私预算的方案相比,所提出的个性化预算方法在两个误差指标上取得了更优的模型性能。该工作流涵盖了从数据预处理到模型聚合的全流程,为敏感数据场景下的联邦学习实践提供了系统性的隐私保护框架。

💡 推荐理由: 为联邦学习中的隐私预算分配提供了新颖的个性化思路,兼顾隐私与效用,并正式化客户端漂移概念以增强鲁棒性,对医疗等敏感领域的数据安全具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)