pikit: A Composable Toolkit for Indirect Prompt Injection Research and Evaluation
该论文提出 pikit，一个面向间接提示注入（Indirect Prompt Injection, IPI）的可组合研究工具包，用于系统化评测 LLM 智能体面临的此类威胁。间接提示注入的核心问题是：攻击者将恶意指令嵌入智能体从外部检索到的
#defense-evaluation
共收录 4 条相关情报。
← 返回所有主题The Price of Safety: Benign-Case Utility and Token Overhead of Memory-Poisoning Defenses in LLM Agents
该论文研究了一个在 LLM 智能体安全中常被忽视的问题：记忆投毒防御在【良性流量】下的实用性与 token 开销。作者指出，现有记忆投毒防御通常只按“能否阻止攻击”来评估，但真实线上流量极少是恶意的；防御的实现成本却是每一次交互都要支付，而
The One-Page Setting: A Higher Standard for Evaluating Website Fingerprinting Defenses.
本文针对网站指纹（Website Fingerprinting, WF）攻击的防御评估标准提出重要批判与改进建议。WF 攻击能够通过分析加密流量模式（如数据包大小、时序、方向等）来识别用户访问的网站，严重威胁 Tor 等匿名通信系统的隐私保
Evaluating Prompting-Based Defenses Against Domain-Camouflaged Injection Attacks
该论文系统评估了基于提示的防御机制对领域伪装注入攻击的效果。领域伪装注入攻击是一种利用领域特定词汇将恶意指令嵌入检索内容中，从而绕过依赖语法注入标记的标准检测器的攻击方式。研究者在三个模型家族（Claude Haiku、Llama 3.1