EvoSafeHarness: Evolving Model- and Domain-Specific Harnesses for Securing Agents
本文提出 EvoSafeHarness，一个面向 LLM Agent 的系统级安全约束（harness）自动化优化框架。研究背景是：LLM Agent 能将语言指令转化为真实世界操作，因此必须防御间接提示注入和直接有害请求；但现有安全 ha
#harness
共收录 2 条相关情报。
← 返回所有主题Beyond Handcrafted Security: Towards Self-Evolving Defense for LLM Agents
随着大语言模型（LLM）代理的操作能力不断扩展，其引入的安全威胁也日益复杂。运行时防御通过在代理执行循环中集成安全机制，已成为缓解这些风险的有效方法。然而，现有的运行时防御严重依赖人工设计的干预措施，缺乏构建和维护这些防御的原则性框架。本文