#execution-boundary

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Mengting Wu, Lin Wang, Yong Zhang, Jiang Deng

该论文关注高自主性 AI 代理在提出具有外部后果的动作(如资金转账、基础设施变更、软件部署、信息披露、物理执行器操作)时,从"候选动作"到"真正获得执行权限"这最后一跳缺乏统一语义契约的问题。作者指出,现有的授权引擎、策略语言、运行时监控、数据溯源机制与代理护栏虽然提供了重要基础,但各自语义不同,并未共同定义"某个具体候选动作何时、在何种条件下可以取得动作范围内的执行授权"这一关键判定。为此论文提出 EBL-Core,一个面向执行边界的一致性配置文件(conformance profile)。它把一个规范化的、已完全物化的 AI 生成候选动作,与结构化意图对象、根策略与运行策略、证据义务、类型化证据、上下文、时间信息,以及可验证的决策推导过程绑定在一起,通过"执行释放契约"(Execution Release Contract, ERC)进行封装。论文明确强调 ERC 本身不是携带权限的令牌:一个校验通过的 ALLOW ERC 只能作为依据,去支撑一个独立的、在兑换时刻(Redemption-time)重新校验后生效的 Execution Grant。EBL-Core 规范了动作绑定、策略不可弱化、证据处理、确定性裁决、推导链验证以及授权生命周期行为。配套参考实现提供了 schema、裁决、独立验证与语义重放(Semantic Replay)以及一个可线性化的内存授权存储。保留的运行结果显示:34 个静态向量与 15 项生命周期检查均与预期一致;在 100 轮试验中,32 次并发兑换尝试每轮只产生一次成功兑换与一次受保护的测试副作用;100 次"撤销—兑换"竞态均收敛到合法的终态。作者亦谨慎限定:这些有界结果只证明所规定子集的可执行性,并不证明人类意图正确性、证据真实性、完全中介、生产可用性、机械化正确性或部署级安全性。适合 AI 代理安全、授权架构、策略引擎与形式化/运行时保障方向的研究者与工程师阅读。

💡 推荐理由: AI 代理被授予实际执行权后,真正的高危面不是"生成建议",而是"建议变成执行授权"的那一步。该工作把执行边界抽象成可校验的一致性配置文件,并给出了并发兑换、撤销竞态等工程性语义,为 SOC 与平台团队设计代理授权审计与最小权限执行链路提供了可借鉴的参考模型。

🎯 建议动作: 研究跟进:评估将该执行边界一致性模型映射到内部代理授权链路的可行性,并作为下一个版本代理权限架构设计的参考输入。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)