#multi-stage-defense

共收录 1 条相关安全情报。

← 返回所有主题
推荐 5.5
Conf: 50%
👥 作者: Zibo Xiao, Haoyu Wang, Jun Sun

本文针对大语言模型(LLM)智能体在多阶段工作流(如记忆、规划、工具执行等)中面临的安全风险问题。现有安全方法通常只保护单一阶段,难以集成和覆盖全流程,导致智能体在整个工作流中缺乏全面防护。为此,作者提出“阶段特定安全技能”(Stage-Specific Safety Skills)这一统一抽象,将异构安全设计表示为具有明确阶段语义的可复用、可组合组件。基于该抽象,他们开发了自动化转换流水线,将已有安全设计转化为可复用的安全技能,并建立了社区驱动的安全技能库。进一步,他们构建了多阶段防御框架S^3,其中守护智能体(guard agent)编排各阶段的安全技能,实现整个工作流中的风险检测与缓解。同时,作者构建了多阶段风险基准(MSRB),用于评估各工作流阶段的代表性风险。实验结果表明,S^3在安全有效性和实用性保持方面均优于多个最先进的基线方法。这些结果展示了阶段特定安全技能作为可扩展、可组合基础,在构建健壮可信的智能体系统方面的潜力。本文适合对LLM智能体安全、安全编排和可组合防御机制感兴趣的研究人员及安全架构师阅读。

💡 推荐理由: LLM智能体正被广泛应用于复杂任务,但其多阶段工作流中风险跨阶段传播且缺乏整体防护。S^3提出的可组合安全技能抽象和统一防御框架,为构建全流程安全的智能体系统提供了新思路,对SOC和AI安全工程师有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)