Representation Transitions Reveal Emerging Safety Risks in Multi-Turn LLM Agents
该论文研究多轮（multi-turn）交互场景下 LLM 智能体（agentic system）的安全风险。作者指出的核心问题是：现有防御往往孤立地评估单次动作或单个状态，而攻击者可以将多个单独看都合规的操作逐步组合，最终产生有害结果，这类
#multi-turn-attack
共收录 4 条相关情报。
← 返回所有主题Speculative Safety Honeypot: Toward Proactive Defense Against Multi-turn Agent Attacks
这篇论文关注的是 LLM Agent 在多轮交互场景下所面临的安全威胁。随着 Agent 被部署到越来越复杂的工具调用与环境交互中，攻击者可以把恶意意图拆散到多个对话轮次里，逐步诱导 Agent 走向危险行为，而任何单独一轮的输入看上去都无
EvoFlint: An Evolutionary Atlas of Multi-Turn LLM Vulnerabilities
前沿语言模型通常会拒绝有害的单轮提示，但在多轮交互中，当用户逐渐表达恶意意图时，模型可能会妥协，这种现象被称为多轮攻击。现有自动化红队方法多将攻击视为生成问题，产生一系列单次成功的攻击示例，但缺乏对模型失败模式的系统性理解。本文作者提出将多
Reassembling Distributed Risk: Trajectory-Conditioned Action Generation for Multi-Turn Agent Safety
本文针对工具型大语言模型（LLM）智能体在多轮交互中的安全风险提出了一种新的防御方法。传统安全防护主要关注生成文本中的恶意内容，但工具型智能体能够执行影响外部系统的动作，安全风险范围因此扩展至动作序列。多轮分解攻击（multi-turn d