#collaborative-learning

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Keiyu Nosaka, Yamato Suetake, Yuichi Takano, Yukihiko Okada, Akiko Yoshise

本文研究隐私保护的协作学习场景。在GDP框架下,各参与方对私有数据应用距离保持变换,仅上传变换后的表示给中央分析者,以实现一次性协作学习。然而,在分析者与部分参与方共谋时,分析者可利用共谋者披露的数据与变换,结合所有上传表示,尝试恢复非共谋参与方的私有数据。虽然参与方特有的独立变换可抵抗该攻击,但会导致表示空间不兼容,损害模型性能。DC分析中的共享锚点对齐虽能恢复兼容性,但公开锚点矩阵在共谋下反而使攻击者能精确重构私有数据。直接对私有数据表示加噪可缓解漏洞但大幅降低效用。为此,本文提出对锚点表示加噪:每个参与方独立变换私有数据和共享锚点矩阵,仅扰动产生的锚点表示,并单轮上传两种表示;分析者通过求解广义正交Procrustes问题完成对齐。论文刻画了对齐与恢复误差,并分析了三种恢复攻击。MNIST和CelebA上的实验表明,在相同泄漏水平下,锚点噪声相比私有数据噪声能获得更高的学习准确率,从而在指定共谋模型下实现更优的隐私-效用权衡。该研究对设计隐私保护的协作学习系统具有重要参考价值。

💡 推荐理由: 揭示了GDP协作学习在共谋攻击下的隐私弱点,并提出更优的锚点噪声策略,为隐私保护机器学习的实用化提供了关键改进方向。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Devharsh Trivedi, Nesrine Kaaniche, Nikos Triandopoulos, Maryline Laurent, Jackson Walters

协作机器学习允许金融机构在不直接共享数据的情况下共同训练模型,但必须同时满足群体公平性和对抗鲁棒性。然而,现有的公平性感知聚合方法在形式上容易受到“公平性投毒”攻击:恶意客户端可以在保持模型准确性的同时最大化群体差异(例如不同组间的等机会差异),从而规避基于准确性的拜占庭防御机制。论文还指出,FairFed 这类基于公平性差距加权的方案可以被能够观测全局公平性分数的攻击者所利用。针对这一威胁,作者提出了 Fairis,一种服务器端的重新加权方案,其核心思想是根据每个客户端本地报告的等机会差异(Equal Opportunity Difference, EOD)计算未归一化权重 w̄_k = η - F_k,其中 F_k 为本地 EOD(范围0到1),η>1 为安全参数;随后通过归一化得到最终权重 ω_k = w̄_k / Σ_j w̄_j。该方法保证每个客户端获得严格正的权重,同时使恶意客户端的权重随其报告的偏差单调减少。论文证明了三个关键性质:单调权重减少(MWR)、人口参与和不可博弈性,并将 MWR 扩展至多个客户端串通的少数人联盟场景。进一步地,结合服务器端范数裁剪,可证明对手对全局模型的位移被限制在 ω_0 C 以内,且该界限随对手自身报告的偏差严格递减。需要注意的是,该方法依赖于客户端诚实上报公平性分数的假设,这一假设在论文中并未得到解决。实验表明,在台湾信贷数据集上,面对一个足够隐蔽、能绕过基于准确性防御的对手(其模型准确性与良性客户端仅差0.04以内),Fairis 能将其权重比不区分大小的控制策略降低41%至54%。但在常规非独立同分布(Non-IID)数据分割下,没有任何规则占据主导地位。消融实验证明,遏制效果取决于对手的分数与诚实客户端平均值的差距;如果诚实群体本身就不公平,则遏制作用失效。

💡 推荐理由: 该研究揭示了协作学习中的新型安全威胁——公平性投毒,现有公平性聚合方案并不安全。Fairis 提供了具有理论保证的防御思路,对金融等对公平性和鲁棒性要求高的行业有直接参考价值。安全从业者应关注多客户端场景下恶意参与者如何通过操纵公平性指标影响全局模型。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Xuanqi Liu, Zhuotao Liu, Qi Li 0002, Ke Xu 0002, Mingwei Xu 0001

本文针对协作式神经网络训练中日益突出的数据隐私挑战展开研究。传统方法如联邦学习(FL)完全忽略模型隐私,而同态加密(HE)只能支持单一数据提供方,扩展性受限。现有的安全多方计算(MPC)框架虽能提供合理吞吐并同时保护数据与模型隐私,却严重依赖计算服务器之间的非串通假设(non-colluding assumption),放松该假设仍是开放问题。为此,论文提出Pencil,这是首个无需非串通假设、同时实现数据隐私、模型隐私以及支持多个数据提供方扩展的协作学习私有训练框架。其核心设计理念是基于高效的两方协议构建多方协作训练协议,并确保在模型训练过程中切换到不同数据提供方不会引入额外开销。作者引入了几种新颖的密码学协议来实现该设计,并进行了严格的安全与隐私分析。全面评估显示:(i) 明文训练模型与使用Pencil私有训练的模型测试准确率几乎相同;(ii) 训练开销大幅降低:吞吐量较现有技术提升10~260倍,通信量减少两个数量级;(iii) Pencil能抵御现有及自适应(白盒)攻击。该工作对隐私保护的机器学习领域具有重要推进意义。

💡 推荐理由: Pencil首次在协作学习中同时实现数据隐私、模型隐私和多提供方扩展性,且无需依赖计算服务器的非串通假设,解决了现有MPC框架的根本性安全缺陷。

🎯 建议动作: 研究跟进:关注Pencil的具体实现与后续改进,评估其在自身业务场景下的适用性。

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)