CounterSteer: Suppressing Indirect Prompt Injection with Activation Steering
该论文针对 LLM 智能体面临的间接提示注入（indirect prompt injection）问题——即被检索回来的不可信文本被模型当作指令执行，从而导致工具调用被劫持——提出了一种推理时（inference-time）的模型内部防御方
#inference-time-defense
共收录 3 条相关情报。
← 返回所有主题LLMs as Linguistic Chameleons: Decoupling Semantics and Structure for Privacy-Preserving Communication
背景与问题：随着 LLM API 被大量集成进隐私敏感的业务流程，如何在推理阶段既保护输入隐私又不牺牲下游任务效用，成为一个突出难题。现有隐私保护方案（如加密、噪声扰动、局部替换等）通常需要保留大部分原始语义，以维持模型推理质量，但这也意味
Comparative Analysis of Inference-Time Defense Methods for Multimodal Large Language Models
该论文对多模态大语言模型（MLLMs）的推理时防御方法进行了比较实证评估。背景：MLLMs在安全关键场景中应用增多，但视觉通道使其易受对抗攻击，而主要面向文本的安全对齐只能部分应对。重新训练模型以适应每种新漏洞类成本过高。因此，研究聚焦于推