SecOPD: Mitigating Adaptive Prompt Injections by On-Policy Distillation

该论文聚焦于AI智能体面临的首要安全威胁——提示注入（Prompt Injection）。当智能体访问网站、文件或邮件等外部数据时，攻击者可在数据中嵌入恶意指令（如“忽略之前所有指令并执行攻击者任务”），从而操纵智能体行为。现有防御方法通过

历史摘要 · 未重新核验 · arXiv cs.CR