#cryptographic-authorization

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Jiasi Weng, Jian Weng, Minrong Chen, Ming Li, Jia-Nan Liu, Zhi Li, Yue Zhang

随着AI驱动的自主工作流(agentic workflows)在政府和企业系统的广泛应用,传统的密钥管理服务只能认证调用者身份,却无法在运行时验证工作流的每个步骤是否得到授权。这意味着一个经过认证的agent仍可能因直接或间接的提示注入攻击而被劫持,执行通过身份检查但违背用户意图的恶意操作。本文提出神经密码服务(Neural Cryptographic Services, NCS),这是一种主动安全治理平面,采用神经-符号混合设计,部署在LLM agent与特权工具之间。NCS将不可信的神经规划器与确定性符号控制器分离:神经规划器将自然语言指令编译为结构化的计划草案,但无权执行;执行过程由符号控制器把控,该控制器操作一个离线签名、哈希链保护的指令流。NCS验证签名、增量校验哈希链、每次只释放一条指令载荷,并强制agent提出的工具参数与已验证载荷严格绑定。不匹配或顺序错误的工具调用将被拒绝,达到“失败关闭”的安全效果,同时保留已验证状态以供事后审计。在AgentDojo和自定义参数劫持基准上的评估表明,NCS能将攻击成功率降至接近零,同时保持良性工作流的高可用性。NCS将agent安全从“模型意图是否合规”的问题转变为“提议的分发是否与密码学授权步骤匹配”。

💡 推荐理由: 为LLM agent工作流提供密码学级强安全保证,从根本上防范提示注入攻击,适合高安全要求的自动化场景。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)