Agent Memory Is a Surface for Endogenous Authorization Laundering
这篇论文研究长效 LLM 代理(Long-running LLM agents)中持久内存(persistent memory)的授权状态管理问题。持久内存用于跨交互保存状态,包括权限、限制和撤销记录。作者发现,当内存错误表达不断演变的授权
共收录 38 条相关情报。
← 返回所有主题这篇论文研究长效 LLM 代理(Long-running LLM agents)中持久内存(persistent memory)的授权状态管理问题。持久内存用于跨交互保存状态,包括权限、限制和撤销记录。作者发现,当内存错误表达不断演变的授权
本文针对多智能体大语言模型(LLM)系统中的授权与运行时治理问题展开研究。作者指出,自主 LLM 智能体日益代表用户持有凭证、调用工具与服务,并能派生子智能体进一步行动,这使得分布式系统中经典的“谁被授权做什么、依据谁的授权”问题变得紧迫且
本文提出了一种名为 AID-Guard 的状态化授权闭合协议,用于解决工具型 AI 代理在委派任务时出现的授权与效果不一致问题。传统授权机制通常在请求准入时一次性完成,但代理在执行过程中,提供方状态、投递、重试和恢复等阶段会不断变化,导致已
本文提出 PACE(Policy-Attested Contract Execution),一个面向去中心化金融(DeFi)中基于大语言模型(LLM)的自主智能体的交易级授权框架。研究背景在于:LLM 智能体在规划链上交易(如代币兑换、借贷
该论文聚焦于多智能体人工智能系统中的委派安全问题。基于LLM的智能体可以代表用户访问云服务、调用工具或调用其他智能体。在会话开始时,智能体的权限被设定,但随后保持静态,每个请求被独立评估,而不考虑先前的操作。在其权限范围内,智能体可能做出与
大型语言模型(LLM)智能体在动态环境中自主执行复杂操作,将语义推理与系统操作交织在一起。传统的静态工具级权限在这种环境下显得力不从心,因为安全授权高度依赖上下文,并受运行时状态和数据流变化的影响。为此,本文提出 FAVA(Formal A
该论文研究了长期运行的AI代理在部署后通过保留经验、获取技能和工具、修改工作流、委托任务以及在任务阶段间移动等方式不断演化所带来的授权问题。随着代理演化,代理本身或执行授权的上下文可能不再匹配用户最初评估的对象,从而导致授权连续性缺失。现有
本文提出了一种名为 Prezta(可验证的零信任授权远程执行)的新型架构,旨在解决关键基础设施中运营技术(OT)系统安全现代化面临的挑战。传统的应用网关虽然能执行复杂授权并支持零信任架构,但存在部署和管理负担重、需与远程边缘设备共置、频繁更
该论文由Igor Santos-Grueiro撰写,研究了LLM agent在执行过程中由于使用早期有效权限证据(如DOM快照、批准epoch、版本见证、分支令牌或工作器结果)而导致持久效果(durable effects)的安全问题。作者
本文针对分布式系统与AI智能体中基于持有的授权模型(Proof-of-Possession)的局限性,提出了一种名为Proof-of-Continuity的权威传播时间模型。传统授权依赖令牌、凭证或能力等工件,但无法保证离散执行链中请求来源
本文针对AI Agent在工具调用过程中因依赖不可信文本而面临的安全性问题展开研究。AI Agent通常基于LLM的输出发起工具调用,但攻击者可通过控制上下文(如提示注入)伪装成合法用户执行非授权操作。作者首先评估了15个当代语言模型在8种
本文针对大型语言模型(LLM)代理框架中的授权缺失问题展开研究。随着工具调用型LLM代理越来越多地处理不受信任的内容,同时持有支付、邮件、CRM和基础设施API等易产生副作用的工具,现有框架默认将工具暴露与授权混为一谈。作者对LangCha
本文针对现有策略描述语言在表达能力上的不足,提出了一种基于逻辑编程(特别是Datalog)的策略描述语言,旨在支持多层防御(Defense-in-Depth)架构中的细粒度授权。研究背景指出,由于信息系统漏洞难以彻底消除,必须依赖多层防御策
该论文对公开披露的漏洞赏金报告中的“对象级授权失效”(BOLA)漏洞进行了首次大规模实证分析。作者从HackerOne平台收集了200份标记为IDOR或不当访问控制的报告(2021-2026年),并应用三标准包含过滤器,最终得到107份已分
该论文研究了编码代理(coding agents)在执行良性用户请求时可能产生“过度动作”(overeager actions)的问题。编码代理通常被赋予shell、文件、网络等高级权限,当用户提出一个看似无害的任务(如修改代码)时,代理有
该论文研究了编程代理(coding agents)在执行终端任务时遵循最小权限授权原则的能力。最小权限授权要求代理仅获得完成任务所必需的权限,避免暴露敏感表面。作者首先定义了“权限边界推断”(permission-boundary infe
该论文探讨了企业AI从副驾驶向自主代理转变过程中面临的授权挑战。随着自主代理能够跨组织边界执行工作流、协商结果并做出决策,传统的身份验证机制已不足以确保安全。论文指出,代理的授权必须明确、可约束、可审计、可撤销,并且能被独立接收方一致解释。
随着模型上下文协议(MCP)在AI代理中的广泛采用,如何确保工具调用通过有意义的用户同意来保障安全成为关键挑战。现有方法要么采用粗粒度的“始终允许”开关,要么依赖不透明的LLM决策,既无法检测危险的调用参数,又容易导致用户同意疲劳。本文提出