Share-Borne AI Virus: Memory-Hopping Attacks Across LLM Agents
这篇论文研究的是「共享产物驱动的 AI 病毒」这一失效模式:当 LLM 被部署为有状态助手(能够跨会话保留记忆,并能通过工具读写、修改、创建持久化产物)时,这些产物在用户之间共享,就构成了一条间接通信通道,使原本相互独立的助手之间产生了隐式
共收录 2 条相关情报。
← 返回所有主题这篇论文研究的是「共享产物驱动的 AI 病毒」这一失效模式:当 LLM 被部署为有状态助手(能够跨会话保留记忆,并能通过工具读写、修改、创建持久化产物)时,这些产物在用户之间共享,就构成了一条间接通信通道,使原本相互独立的助手之间产生了隐式
该论文针对使用工具的LLM代理(Tool-Using LLM Agents)提出了一种新型的多步越狱攻击方法——上下文碎片化解构攻击(Context-Fractured Decomposition, CFD)。现有的大多数越狱攻击和防御(如