#geometric-perturbation

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Keiyu Nosaka, Yamato Suetake, Yuichi Takano, Yukihiko Okada, Akiko Yoshise

本文研究隐私保护的协作学习场景。在GDP框架下,各参与方对私有数据应用距离保持变换,仅上传变换后的表示给中央分析者,以实现一次性协作学习。然而,在分析者与部分参与方共谋时,分析者可利用共谋者披露的数据与变换,结合所有上传表示,尝试恢复非共谋参与方的私有数据。虽然参与方特有的独立变换可抵抗该攻击,但会导致表示空间不兼容,损害模型性能。DC分析中的共享锚点对齐虽能恢复兼容性,但公开锚点矩阵在共谋下反而使攻击者能精确重构私有数据。直接对私有数据表示加噪可缓解漏洞但大幅降低效用。为此,本文提出对锚点表示加噪:每个参与方独立变换私有数据和共享锚点矩阵,仅扰动产生的锚点表示,并单轮上传两种表示;分析者通过求解广义正交Procrustes问题完成对齐。论文刻画了对齐与恢复误差,并分析了三种恢复攻击。MNIST和CelebA上的实验表明,在相同泄漏水平下,锚点噪声相比私有数据噪声能获得更高的学习准确率,从而在指定共谋模型下实现更优的隐私-效用权衡。该研究对设计隐私保护的协作学习系统具有重要参考价值。

💡 推荐理由: 揭示了GDP协作学习在共谋攻击下的隐私弱点,并提出更优的锚点噪声策略,为隐私保护机器学习的实用化提供了关键改进方向。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)