Reassembling Distributed Risk: Trajectory-Conditioned Action Generation for Multi-Turn Agent Safety

本文针对工具型大语言模型（LLM）智能体在多轮交互中的安全风险提出了一种新的防御方法。传统安全防护主要关注生成文本中的恶意内容，但工具型智能体能够执行影响外部系统的动作，安全风险范围因此扩展至动作序列。多轮分解攻击（multi-turn d

历史摘要 · 未重新核验 · arXiv cs.CR