#prompt-caching

共收录 1 条相关安全情报。

← 返回所有主题
推荐 10.5
Conf: 50%
👥 作者: Ryan Fahey

本文研究大型语言模型(LLM)推理API中提示缓存(prompt caching)实现的安全隔离问题。提示缓存通过复用请求的KV缓存来节省计算资源并加速响应,但许多实现存在时序攻击或元数据泄露风险。Gu等人(ICML 2025)已提出一种审核LLM中提示缓存的方法。本研究重点关注OpenRouter API网关架构,该网关充当多个LLM提供商的前端,使用共享组织凭据路由请求。作者利用缓存探测技术,验证了OpenRouter是否引入跨用户缓存共享漏洞,从而破坏提供商层面本应提供的每账户或每组织缓存隔离。实验结果表明,OpenRouter的缓存机制确实存在全局共享现象,导致一个用户的缓存内容可能被其他用户访问,进而泄露敏感提示信息。该发现揭示了API网关在实现缓存功能时可能忽视的隔离缺陷,对多租户LLM服务的安全设计具有重要警示意义。

💡 推荐理由: LLM API网关的缓存隔离漏洞可能导致跨用户提示数据泄露,影响企业级AI服务的安全可信赖性。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)