#model-weight-leakage

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Yuanyuan Yuan 0001, Zhibo Liu 0001, Sen Deng, Yanzuo Chen, Shuai Wang 0011, Yinqian Zhang, Zhendong Su 0001

该论文揭示了一种针对可信执行环境(TEE)保护下的深度神经网络(DNN)模型权重的新型攻击方法——HyperTheft。TEE 通过加密将 DNN 视为完全黑盒来抵御模型权重泄露及其后续的白盒攻击,但论文发现 TEE 的密文侧信道在 DNN 执行期间会产生权重依赖的观测数据,从而可能泄露模型权重。现有侧信道攻击技术因要求过高或精度不足而无法直接应用于 DNN 权重窃取——DNN 拥有数百万个权重元素,即使少量错误恢复也可能导致模型失效。为此,论文提出 HyperTheft,利用 TEE 密文侧信道中的权重依赖特征,结合精心设计的推理算法,能够在无需先验知识的情况下以高精度恢复 DNN 权重。实验表明,HyperTheft 在多种 TEE 平台(如 Intel SGX)上成功窃取了多种主流 DNN 架构的权重,且攻击过程对受害者透明。该工作揭示了 TEE 保护 DNN 的一个严重安全缺陷,强调需要针对密文侧信道设计新的防御机制。适合安全研究员、TEE 开发者及关注 AI 模型保护的专业人士阅读。

💡 推荐理由: 该研究首次展示了通过 TEE 密文侧信道精确恢复 DNN 模型权重的可行性,直接挑战了 TEE 为 AI 模型提供机密性保护的核心假设,对云端推理场景构成严重威胁。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)