随着边缘设备(如手机)计算能力提升和隐私要求日益严格,越来越多的深度学习应用选择在边缘端预处理敏感原始数据,再将提取的特征传输到云端进行后续处理。面部识别服务是典型例子,它需要从不同个人的面部图像中提取特征。为了防止身份信息在传输或云端被窃取,传统方法通常采用对抗博弈的方式从特征中剥离身份信息。然而,这类方法无法有效抵御自适应攻击——即攻击者针对已知防御策略采取反制措施。本文提出 Crafter,一种部署在边缘端的特征加工机制。其核心防御思路是误导攻击者使其陷入非私有的先验信息,从而几乎无法从攻击中获取关于用户私人身份的信息。换而言之,加工后的特征对于自适应更新模型攻击者而言扮演了中毒训练样本的角色。实验中,Crafter 成功抵御了基本攻击和多种自适应攻击变体,而当前最先进的基于对抗博弈的方法均无法达到同等效果。该方法不依赖预设攻击模型,具有较强的泛化能力。
💡 推荐理由: 面部特征隐私保护是边缘智能场景的核心挑战。Crafter 提出了一种新的防御范式,通过误导攻击者先验来抵御自适应模型反演,比传统对抗博弈方法更鲁棒。
🎯 建议动作: 研究跟进