随着移动端和物联网设备上的人工智能推断任务日益普及,端侧推理(on-device inference)已成为保护用户数据隐私的主流范式。该范式通常将第三方提供的模型部署在本地设备上执行推断,然而这会将私有模型暴露于两大安全威胁之下:模型窃取(model stealing, MS)和成员推理攻击(membership inference attack, MIA)。为了缓解这些风险,现有研究普遍采用可信执行环境(Trusted Execution Environment, TEE)来部署模型,借助TEE提供的隔离执行空间保护模型机密性。然而,TEE的安全内存容量受限,若将完整模型全部放入TEE,会因内存瓶颈导致推理延迟显著上升,难以兼顾安全性与性能。针对这一核心矛盾,本文提出名为TensorShield的防护方案,其核心思想是识别并筛选出对模型安全性最关键的张量(critical tensors),仅将这些关键张量放入TEE中加以保护,而其余非敏感部分保留在普通内存中执行,从而在有限安全内存约束下实现模型保护,同时尽量降低对端侧推理延迟的影响。该工作聚焦于模型推理过程中的数据流与张量依赖关系,通过精细化保护策略替代全模型加密,试图在安全性、内存开销与推理效率之间取得更优平衡。本文的研究贡献属于系统安全与机器学习系统交叉方向,对关注TEE应用优化、端侧AI安全以及模型知识产权保护的研究者和工程师具有参考价值。由于当前仅能获取论文摘要,尚无法确认具体的张量筛选算法、威胁模型边界以及实验评测细节,因此暂归类为理论研究范畴。
💡 推荐理由: 端侧推理中模型窃取与成员推理攻击是实际安全痛点,TEE方案因内存限制难以实用;TensorShield提出按关键张量细粒度保护,为在资源受限设备上低成本防模型泄露提供新思路。
🎯 建议动作: 研究跟进