Structurally Close, Temporally Distant: Measuring Security Exposure in Long-Horizon LLM Agents
长期运行的大语言模型(LLM)智能体在与不受信任的内容、持久化内存、外部状态和敏感工具交互时,面临严重的安全风险。现有的安全分析往往以恶意输入与下游动作之间的执行步数来衡量攻击的距离,但本文指出,对于有状态的智能体,这种时间上的距离可能高估
共收录 1 条相关情报。
← 返回所有主题长期运行的大语言模型(LLM)智能体在与不受信任的内容、持久化内存、外部状态和敏感工具交互时,面临严重的安全风险。现有的安全分析往往以恶意输入与下游动作之间的执行步数来衡量攻击的距离,但本文指出,对于有状态的智能体,这种时间上的距离可能高估