#secure-mpc

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Hongxu Su, Jianzhu Yao, Xuechao Wang, Pramod Viswanath

联邦学习允许多个客户端在不共享私有数据的前提下协同训练模型,但服务器对本地训练过程缺乏可见性,既无法确认客户端是否严格遵循既定训练流程,也难以发现模型投毒等恶意更新。一种直观的验证思路是“重放”客户端训练:用相同配置重新执行训练并比对结果。然而在隐私保护场景下,重放必须在密码学保护下进行,其数值结果与客户端本地 GPU 上真实执行的浮点结果无法逐位对齐,导致“不一致”既可能源于恶意篡改,也可能只是运行环境差异,直接比对会产生大量误报。 针对这一矛盾,作者提出 OPFL——面向隐私保护联邦学习的乐观验证框架。OPFL 将重放放在安全多方计算(MPC)中执行以保护数据隐私,并观察到:尽管 MPC 与本地 GPU 计算出的梯度并非逐位相同,但两者之间的绝对差值具有稳定且有界的统计特性。基于此,OPFL 先离线校准一个“经验边界”,在线阶段用该边界判断偏差属于良性数值噪声还是恶意操纵。为降低 MPC 重放的高昂开销,OPFL 采用乐观验证策略:不对全部训练步骤重放,而是按概率抽样、事后审计部分训练步骤,抽样结果落在边界内即接受更新。 实验在 LeNet、BERT、Qwen 上进行,结果显示经验边界可跨数据集、输入长度和 GPU 泛化;在模型投毒与 PGD 类攻击下达到 0% 攻击成功率(ASR)。在 LeNet 负载、采样率 p=0.01 时,OPFL 比全量 MPC 联邦学习快约 98.6 倍,比基于零知识证明(ZK)的方案快约 625.5 倍。该工作适合研究联邦学习安全、可信机器学习、MPC/零知识证明系统,以及构建可验证分布式训练平台的研究者与工程师阅读。

💡 推荐理由: 为联邦学习“可验证性”提供兼顾隐私与效率的工程路径:不必放弃 MPC 隐私保护即可审计客户端训练,并把开销压到可用量级,对模型投毒防御与可信训练审计有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Jack P. K. Ma, Raymond K. H. Tai, Yongjun Zhao 0001, Sherman S. M. Chow

该论文研究多客户端决策树评估(Multi-Client Decision Trees Evaluation)问题,提出了一种名为“Let's Stride Blindfolded in a Forest”的新协议。核心目标是允许多个数据持有方在各自私有数据上联合评估一棵决策树,同时不泄露任何一方的输入数据或中间结果。传统方法通常依赖同态加密或安全多方计算,但存在计算开销大、通信复杂度高的问题。论文通过引入亚线性(sublinear)的通信与计算开销,使得评估复杂度与决策树深度而非树规模相关,显著提升了效率。方法上可能结合了不经意传输(OT)、函数秘密共享(FSS)或秘密共享等密码学原语,设计了一种可并行的协议,并支持批量评估。实验部分验证了协议在多个数据集上的性能优势,与现有方案相比,在在线/离线阶段、通信量以及运行时间上均有改进。该工作适合密码学、安全计算和隐私保护机器学习领域的研究者阅读,尤其关注多方数据协作场景下的高效决策树推理。

💡 推荐理由: 为多客户端隐私保护决策树推理提供亚线性复杂度的新方案,可降低联邦学习或联合风控中模型推理的通信与计算成本,对需要多方协作的蓝队场景(如共享威胁情报检测规则)有潜在价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 3.6
Conf: 50%
👥 作者: Daniil Filienko, Martine De Cock, Sikha Pentyala

本文针对基因组数据的高度敏感性和访问限制,提出了一种跨机构安全合成基因组数据生成方法。由于基因组数据的隐私性,数据共享受到严格监管,阻碍了AI在基因组学中的发展。合成数据生成通过训练生成模型并采样保留相关统计信息的人工数据,可以在不泄露个体敏感信息的同时促进数据共享。但在许多应用中(如罕见病研究),单个机构的数据量不足以训练有效的生成模型,需要跨机构协作。为此,本文设计了一种结合安全多方计算(MPC)和差分隐私(DP)的方案,使得多个数据持有者能够在不暴露原始数据的情况下联合训练合成数据生成器。MPC确保输入隐私,即任何一方都不会以未加密形式泄露其数据;DP则提供输出隐私,通过限制从发布的合成数据中泄露信息来保护个体隐私。作者使用多个真实RNA-seq数据集在联邦环境中进行了实验,结果表明该方法能够在数据分布在不同机构的情况下生成高质量、高实用性的合成数据集,同时有效保护隐私。该工作为隐私保护的跨机构基因组数据共享提供了可行的技术路径。

💡 推荐理由: 该方法直接解决了基因组数据共享与隐私保护之间的矛盾,允许医疗机构在合规前提下安全合作,对推动基因组学AI研究有重要意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)