#gradient-protection

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Yuki Itabashi, Hiroto Sawada, Mare Hirose, Shoko Imaizumi, Hitoshi Kiya

联邦学习允许各方在不共享原始数据的情况下协作训练模型,但近期研究表明,攻击者可以从共享的模型更新中重建训练图像,即梯度泄漏攻击。为缓解此问题,本文提出了一种双重混淆方法,通过联合混淆更新信息和训练图像来增强对图像重建攻击的鲁棒性。该方法结合了两种技术:一种基于随机二进制权重的梯度鲁棒性增强技术,随机将部分梯度元素置为零,从而减少攻击者可获取的原始梯度信息;另一种是图像加密技术,通过对训练图像进行加密,降低重建图像的视觉可解释性。这两种技术提供互补的保护,在攻击者可利用的梯度信息量和重建图像的视觉质量上形成双重屏障。此外,图像加密技术允许每个客户端和每张图像使用独立的密钥,无需显式共享密钥,简化了密钥管理。实验在Vision Transformer (ViT)上进行图像分类任务,并采用注意力隐私泄漏(APRIL)攻击进行评估。结果表明,在所评估的设置下,所提方法显著减少了APRIL恢复出的视觉信息,且未造成除图像加密自身引起的分类性能下降之外的额外退化。尽管该组合不提供绝对的安全保证,但实验结果证明了将梯度修改与图像加密相结合在隐私增强联邦学习中的潜在价值。该研究为联邦学习隐私保护提供了新的思路,特别适合对训练数据隐私要求较高的场景,如医疗影像、人脸识别等敏感图像处理任务。

💡 推荐理由: 联邦学习面临严重的梯度泄漏威胁,本文提出的双重混淆策略结合梯度稀疏化与图像加密,提供了一种实用且易于实现的防御思路,有助于实际部署中缓解图像重建攻击。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)