When Cache Poisoning Meets LLM Systems: Semantic Cache Poisoning and Its Countermeasures.
本文针对大型语言模型（LLM）系统中的缓存机制提出了语义缓存投毒攻击。传统的缓存投毒主要针对查询字符串精确匹配，而LLM系统常采用语义缓存来缓存具有相似语义的查询，以提高推理效率并降低成本。作者首次提出语义缓存投毒攻击，攻击者通过构造与合法
#ai-security
共收录 102 条相关情报。
← 返回所有主题R-CoT: A Reasoning-Layer Watermark via Redundant Chain-of-Thought in Large Language Models
大型语言模型（LLM）因其强大的推理能力被广泛部署于多种场景，但同时也面临被滥用的风险。为了确保模型所有权，通常采用水印技术。然而，现有大多数水印方法仅对模型的输出分布进行表层修改，导致水印容易受扰动或去除。针对这一挑战，本文提出了一种名为