#cache-security

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: XiangFan Wu, Lingyun Ying, Guoqiang Chen, Yacong Gu, Haipeng Qu

本文首次系统性地研究了大型语言模型(LLM)服务框架中缓存机制引发的安全威胁。随着LLM在生产环境中的广泛部署,服务框架(如vLLM、TGI等)广泛采用缓存技术(如键值缓存、前缀缓存)以降低推理延迟和成本。然而,这些缓存设计引入了新的攻击面。作者识别并分类了六种缓存相关威胁:缓存中毒(通过污染缓存数据导致恶意输出)、缓存窃取(通过侧信道推断其他用户的提示/响应)、缓存放大(利用缓存机制发起拒绝服务攻击)、缓存不一致(利用多租户环境下的缓存状态同步问题)、缓存数据泄露(缓存未清理导致敏感信息暴露)以及缓存旁路(绕过缓存验证直接操作底层存储)。通过分析主流LLM服务框架的缓存实现,作者构建了威胁模型并展示了实际攻击的原型验证。实验表明,攻击者可以在低权限条件下(如仅具备API访问权限)实施上述威胁,影响模型输出的完整性、机密性和可用性。论文提出了相应的防御策略,包括缓存隔离、访问控制、数据完整性校验以及缓存状态的严格刷新策略。研究强调了在LLM服务设计中安全与性能的平衡需求,为框架开发者和部署者提供了安全指南。

💡 推荐理由: 首次系统性地揭示LLM服务框架中缓存机制的安全威胁,填补了该领域的研究空白。对于使用缓存优化性能的LLM服务,这些攻击直接影响模型输出的安全性和用户隐私。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)