SafeDepth: Safety-Aware Token-Level Adaptive Computation
该论文关注 Transformer 推理加速中的 token 级自适应计算（token-level adaptive computation）所带来的安全副作用。以往研究认为并非每个 token 都需要经过全部层，因此出现了一批选择性跳层的
#jailbreak-defense
共收录 14 条相关情报。
← 返回所有主题AEGIS: Audio Endogenous Guarding via Internal Signals Against Large Audio-Language Model Jailbreaks
该论文研究大型音频-语言模型（LALM）面临的异构音频越狱问题。LALM 将语言模型能力扩展到音频理解，攻击者可通过语音、环境音、音乐等音频载体构造越狱输入。作者提出的核心研究问题是：越狱成功究竟是因为模型未能识别有害意图，还是发生在识别之
Decoy Direction Optimization: A Post-Hoc Defense Against LLM Abliteration
开放权重模型的安全护栏很容易被「拒绝特征消融」(Refusal Feature Ablation, RFA) 绕过：该技术通过对比估计器在残差流中定位一个线性的「拒绝方向」，再将它从权重/激活中投影剔除，从而在几乎不损失模型通用能力的前提下
SRD-GUARD: A Defense Framework of LLMs via Semantic Rewriting and Joint Multi-Model Scoring for Latent Intent Exposure
本文提出 SRD-GUARD，一种面向大语言模型（LLM）的免参数、黑盒防御框架，用于对抗越狱（jailbreak）攻击。越狱攻击常通过角色扮演、虚构场景或看似合理的动机隐藏有害意图，现有推理时防御要么漏掉伪装攻击，要么过度拒绝合法请求。S
AlcaTRAz - Anchored Tree-Rule Defense Against Jailbreaks
该论文针对大型语言模型（LLM）面临的越狱攻击问题，提出了一种名为 AlcaTRAz（Anchored Tree-Rule defense Against jailbreaks）的提示词级别防御方法。越狱攻击通过精心构造的输入绕过模型的安全
A Self-Evolving Multi-Agent Framework Defense against LLM Jailbreak Attacks
本文针对大型语言模型（LLM）面临的越狱攻击防御问题提出了一种自进化的多智能体框架。当前LLM虽经过安全对齐，但仍易被角色扮演、混淆、代码转换、多步间接等越狱技术诱导产生有害输出。现有防御多为静态部署，无法根据新出现的攻击积累经验或自适应调
Breaking the Assumptions: Auditing Input-Side Jailbreak Defenses Against Semantic Attacks
本文对本地部署大语言模型（LLM）的输入侧越狱防御机制进行了系统性审计。研究背景是：通过Ollama等推理引擎本地部署的LLM，缺乏API服务模型所具备的内容审核与滥用检测机制，因此模型安全性完全依赖于防御手段，而防御手段的有效性取决于其设
COMIC: Reference-Aware Safety Gating for Multimodal Large Language Models
本文针对多模态大语言模型（MLLM）在视觉输入场景下的新型安全风险展开研究。作者指出，在许多多模态越狱攻击中，单独的文本提示或图像本身并无危害，但当模型将一个看似无害的操作（如摘要、翻译、指令跟随）绑定到一个具体视觉目标时，不安全行为便会产
Dual-Adversarial Safety Alignment: Cultivating Intrinsic Threat Comprehension in LRMs
本论文针对大型推理模型（LRMs）在复杂任务上表现优异但易受有害提示诱导而输出不安全内容的问题，提出了一种名为 AdvSafe 的双对抗安全对齐框架。现有对齐方法通常依赖直接拒绝或安全推理，但往往局限于提示模式而非内在攻击机制，导致难以泛化
Capability-Routed Guard: Defending Large Reasoning Models Against Reasoning-Centric Jailbreaks
本文针对大型推理模型（LRM）暴露出的新型安全失效模式展开研究：对抗性提示能够操纵推理上下文、任务分解或能力解释，使有害目标被当作合法推理步骤处理。现有防护手段（如安全提醒、外部分类器、自检查包装器）往往脆弱，原因在于它们要么直接检查对抗性
NeuroArmor: Safe-Variant-Guided Representation Consistency for Selective Re-Anchoring in Jailbreak Defense
这篇论文提出了 NeuroArmor，一种针对大型语言模型（LLM）的越狱攻击白盒运行时防御方法。现有防御通常对所有提示采用相同策略，导致在安全性和有用性之间难以平衡，容易误伤良性敏感请求。NeuroArmor 针对每个输入提示生成多个安全
Steering Beyond the Support: Adversarial Training on Unsupervised Jailbroken Activation Simulation
该论文针对大型语言模型（LLM）面对越狱提示（jailbreak prompts）时的安全对齐问题展开研究。现有安全引导（safety steering）方法在测试时通过激活干预将越狱激活引导至拒绝区域，同时保持良性功能，但这些方法本质上是
Revisiting JBShield: Breaking and Rebuilding Representation-Level Jailbreak Defenses
本文针对大型语言模型（LLM）的越狱攻击防御展开研究，重点重访了近期提出的JBShield防御机制。JBShield通过检测两种概念信号（毒性概念和越狱概念）来识别恶意提示，在部分设置下声称攻击成功率为0%。然而，本文设计了一种新的自适应攻
TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning
该论文针对大语言模型（LLM）面临的分解式越狱攻击提出了一种新型防御框架。分解式越狱攻击通过将恶意目标拆分为一系列看似无害的查询，使攻击者能够绕过安全防护，累积重构出被禁止的内容。在实际部署中，LLM面对连续、不可追溯的匿名请求流，其中混杂