#dnn-protection

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Hanyu Pei, Shang Liu, Zeyan Liu

本文提出了一种名为 LymphNode 的插件式访问控制方法,用于保护深度神经网络(DNN)模型免受未经授权的访问和攻击。在边缘部署场景中,DNN 模型面临不受限制的 oracle 访问风险,容易遭受模型提取和模型反转攻击。现有的防御手段存在不足:被动水印仅提供事后溯源,主动防御则引入高延迟或需要持续访问敏感的训练数据。LymphNode 作为模型内在的“免疫系统”,采用“默认拒绝”策略:它通过在特征空间中注入通用稀疏通用对抗扰动(GSUAP)来主动中和未授权查询的模型效用,有效阻止梯度估计和数据推断。只有携带隐秘特征域凭证的授权输入才能选择性恢复模型效用。该方法具有高效性:使用少于 100 个样本(训练数据的 1% 以下)即可建立稳健保护,并且具有跨数据集适应性,可使用公共替代数据集进行保护。LymphNode 提供了一种轻量级、可立即部署的防御方案,适用于原始训练数据受限或不可用且对模型保护有高要求的场景。

💡 推荐理由: 针对 DNN 模型在边缘部署中面临的无限制 oracle 访问攻击,提供了一种轻量、数据高效的主动防御方案,无需修改训练过程或访问原始训练数据。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)