Persona Guardrail: A Production-Grade Defense Framework for Agentic Systems
该论文关注的是基于大语言模型的智能体（agent）在生产环境中的功能边界失控问题。作者指出，当前多数运行时护栏（runtime guardrail）主要针对提示注入等特定攻击行为，且普遍在黑盒威胁模型下工作，难以保证智能体「只在被授权的功能
#runtime-defense
共收录 6 条相关情报。
← 返回所有主题Representation Transitions Reveal Emerging Safety Risks in Multi-Turn LLM Agents
该论文研究多轮（multi-turn）交互场景下 LLM 智能体（agentic system）的安全风险。作者指出的核心问题是：现有防御往往孤立地评估单次动作或单个状态，而攻击者可以将多个单独看都合规的操作逐步组合，最终产生有害结果，这类
Before Acting, Change the State: Prospective State Intervention for Web Agents under Deceptive Interfaces
该论文关注 LLM 驱动的 Web 智能体（Web Agent）在真实网页环境中执行用户任务时的安全性问题。作者指出，现有的防御手段主要集中在「行为层」——即对智能体即将执行的动作进行拦截、引导或重新规划，但这类方法忽略了一种独立的失效模式
AGATE: Provenance-Based Runtime Defense Against Compositional Attacks on LLM Agents
该论文针对 LLM Agent 在真实业务环境中可能通过一连串「看似普通」的操作组合产生有害后果这一问题，提出了一种基于来源追溯（provenance）与授权的运行时防御机制 AGATE。作者指出，判断一个 Agent 动作是否应当被允许，
ASGARD: Action-Space Guard for UAV Resilience via Reinforcement Learning
该论文关注基于强化学习（RL）的无人机（UAV）导航与控制器的运行时安全问题。近年来，RL 控制器因其在复杂机动与自主导航中的表现被广泛用于无人机控制，但这类策略存在一个关键且常被忽视的攻击面：动作空间攻击。攻击者并不篡改策略的观测输入，而
Beyond Handcrafted Security: Towards Self-Evolving Defense for LLM Agents
随着大语言模型（LLM）代理的操作能力不断扩展，其引入的安全威胁也日益复杂。运行时防御通过在代理执行循环中集成安全机制，已成为缓解这些风险的有效方法。然而，现有的运行时防御严重依赖人工设计的干预措施，缺乏构建和维护这些防御的原则性框架。本文