#security-context

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Chris Zheng, Geng Yang

在LLM智能体系统中,通常集成了来源追踪、授权、策略执行、协议适配和执行控制等安全机制。然而,单独看起来正确的安全机制并不一定能在组合后形成端到端安全的系统:当动作跨越组件边界时,关键的安全上下文可能被丢弃、扩大、重新绑定,或被重新解释。本文将这种失败模式定义为“安全上下文不连续性”,并提出了CONTINUITY框架,用于智能体安全控制的可验证组合。CONTINUITY为每个组件建立assume-guarantee契约,并通过签名根源授权、来源承诺、角色绑定转移凭证、有界类型释放、转换见证和效果绑定执行许可,在组件间传递经过认证的安全上下文。作者形式化了端到端的后果完整性要求,即每个所实现的外部效果都必须由有效且当前授权见证支撑,该见证关联主体、任务、来源、委托、策略状态、规范化动作和最终边界。文章实现了一个参考验证器和一套确定性的跨层故障注入测试套件,覆盖了四个应用域共32种故障类型。在跨越128个故障域类的2560个参数化攻击实例中,完整的CONTINUITY配置没有造成任何有害外部效果,同时完成了全部700个良性任务,并提升了200个模糊案例的处理能力。结果表明,安全的智能体执行不仅需要各个独立控制机制本身正确,还需要明确的契约来保证这些机制在从指令到效果的完整路径上持续有效。

💡 推荐理由: 该研究揭示了LLM智能体安全中的关键盲区:安全机制在跨组件边界时可能失效。CONTINUITY框架为构建端到端可验证的智能体控制系统提供了理论基础,对依赖组合式安全机制的安全架构师、AI平台开发者及蓝队如何系统性地审查复杂智能体链条具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)