#policy-enforcement

共收录 8 条相关情报。

学术论文2026-09-28 发布INFO

该论文针对自主智能体（Agentic AI）系统的可审计性提出新概念 ProofWeave。背景是：现代智能体通过工具调用、记忆、任务委派和外部服务持续行动，其行为边界跨越多个组件与信任域。现有的可观测性与数据溯源（provenance）机

历史摘要 · 未重新核验 · arXiv cs.CR

学术论文2026-09-25 发布INFO

自主 AI agent 配合工具使用带来了显著安全风险，既包括非预期的工具误用，也包括通过间接提示注入（IPI）实现的对抗性操纵。实践中，OpenAI Codex、Claude Code 等已部署的 agent 系统采用"粗粒度权限规则 +

历史摘要 · 未重新核验 · arXiv cs.CR

学术论文2026-09-24 发布INFO

这篇论文研究的是数据空间（dataspace）与 LLM 智能体交汇处的一个治理盲区。作者指出，数据空间连接器（connector）的决策点只决定「是否允许一次传输发生」，而不管被传输的值里到底装了什么。对基于合同的传统应用来说这尚可接受，

历史摘要 · 未重新核验 · arXiv cs.CR

学术论文2026-09-22 发布INFO

随着生成式 AI（GenAI）应用的快速普及，用户不仅能用自然语言与大型语言模型对话，还能构建可代表自己执行多种任务的智能体（agent）。然而该领域的能力迭代速度极快，安全与保障机制的建设明显滞后，已经导致真实的安全事件发生。作者指出，“

历史摘要 · 未重新核验 · arXiv cs.CR

学术论文2026-09-21 发布INFO

该论文针对 LLM 智能体在长周期、工具调用型工作流中的授权失控问题提出运行时治理框架 ActGov。研究背景是：智能体通过外部工具执行多步任务时，工具返回的不可信内容（如网页、文档、第三方 API 输出）会作为上下文回流进模型，进而影响后

历史摘要 · 未重新核验 · arXiv cs.CR

学术论文2026-09-10 发布INFO

该论文关注高自主性 AI 代理在提出具有外部后果的动作（如资金转账、基础设施变更、软件部署、信息披露、物理执行器操作）时，从"候选动作"到"真正获得执行权限"这最后一跳缺乏统一语义契约的问题。作者指出，现有的授权引擎、策略语言、运行时监控、

历史摘要 · 未重新核验 · arXiv cs.CR

学术论文2026-08-20 发布INFO

本文提出 AEGIS，一个针对 Model Context Protocol（MCP）的跨域资源滥用防护策略执行组件。MCP 是一种开源的 JSON-RPC 协议，用于标准化大语言模型（LLM）与外部系统之间通过工具（tools）进行的交互

历史摘要 · 未重新核验 · arXiv cs.CR

学术论文2026-07-07 发布INFO

该论文系统化整理了2023-2026年间关于AI编码代理执行安全性的39篇论文，将其分为17个类别，并直接验证了每个类别与原始来源的一致性。研究背景是AI编码代理可以读取仓库、调用工具和执行shell命令，但缺乏足够的人类监督，因此其执行层

历史摘要 · 未重新核验 · arXiv cs.CR