High-quality Data Do not Mean Safe! Poisoning LLMs after Data Selection
该论文研究的是大语言模型（LLM）微调阶段的数据投毒问题，指出了一个被此前工作普遍忽略的盲区。既有研究通常假设投毒样本会原封不动地进入下游微调流程，但在真实训练流水线中，数据往往先经过基于质量的数据筛选（selection/filterin
#safety-alignment
共收录 24 条相关情报。
← 返回所有主题CodeMimicry: Exploiting Safety Generalization Lag in Large Language Models via Structured Code Completion
该论文聚焦大语言模型安全对齐的一个被忽视的失效模式：安全泛化滞后（safety generalization lag）。作者指出，当前主流对齐训练与红队数据几乎全部集中在自然语言上，导致模型在代码域上未能继承同等强度的拒答能力。这一滞后在代
AEGIS: Audio Endogenous Guarding via Internal Signals Against Large Audio-Language Model Jailbreaks
该论文研究大型音频-语言模型（LALM）面临的异构音频越狱问题。LALM 将语言模型能力扩展到音频理解，攻击者可通过语音、环境音、音乐等音频载体构造越狱输入。作者提出的核心研究问题是：越狱成功究竟是因为模型未能识别有害意图，还是发生在识别之
SafeEvolve: Harness-Policy Co-Evolution from Agent Experience for Safety Alignment
该论文提出 SafeEvolve，一种面向 LLM 智能体（agent）安全对齐的“经验驱动自进化”框架。研究背景是：基于 LLM 的智能体在完成任务时，其行为由基础模型与交互环境所用的“harness”（即外部工具/提示/技能编排层）共同
When Safety Routing Breaks: Understanding Alignment Fragility under Benign Fine-Tuning
这篇论文研究良性微调（benign fine-tuning）如何严重削弱大型语言模型（LLM）的安全对齐（safety alignment），并探索拒绝行为（refusal behavior）为何如此脆弱。以往研究常将安全失效归因于梯度冲突
MMJailBench: A Factorized Benchmark for Disentangling Multimodal Jailbreak Vulnerabilities
MMJailBench 是一个用于解耦多模态大语言模型（MLLM）越狱漏洞成因的因子化基准。现有越狱基准通常将有害意图、提示框架、视觉语义和指令载体混合在单个越狱样例中，导致无法准确定位漏洞的具体来源。MMJailBench 通过系统化地变
Dual-Adversarial Safety Alignment: Cultivating Intrinsic Threat Comprehension in LRMs
本论文针对大型推理模型（LRMs）在复杂任务上表现优异但易受有害提示诱导而输出不安全内容的问题，提出了一种名为 AdvSafe 的双对抗安全对齐框架。现有对齐方法通常依赖直接拒绝或安全推理，但往往局限于提示模式而非内在攻击机制，导致难以泛化
Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting
本文研究了大语言模型（LLM）在批量提示（batch prompting）场景下的安全性问题。批量提示是一种实用的推理策略，通过将多个问题打包在一次请求中交给模型处理，以提升效率和吞吐量。然而，作者发现批量提示在实用性上的成功并未延伸到安全
Moving the Safety Barrier: Dynamic Routing Adaptive Alignment Against White-Box Attacks
本文针对大型基础模型（LFMs）在开放环境中部署时面临的新型安全威胁——白盒攻击。与传统的黑盒越狱不同，白盒攻击能够直接定位并破坏模型内部的安全神经元或安全路由，而现有防御方法通常依赖静态安全单元或固定的拒绝路径，在路由级别的白盒攻击下显得
TYPO: Instruction-Dense Visual Jailbreaks against Commercial Closed-Source Image-Generation Models
本文发现商用图像生成模型（如GPT-Image-2、Nano Banana Pro等）在生成包含可读文本的图像（如海报、信息图）时，存在一种此前未被报告的安全漏洞：这些模型会拒绝直接输出有害文本，但当相同内容以图像中嵌入文本的形式呈现时，安
How Jailbreak Attacks Inform Safety Alignment: A Defender-Centric, Shapley-Based Evaluation of Jailbreak Contributions
本文针对大语言模型（LLM）的越狱攻击评估问题，提出了一种以防御者为中心的新视角。传统评估以攻击者成功率为指标，但高成功率的攻击未必能有效提升模型安全。作者主张将越狱攻击视为安全训练的红队数据资源，通过其能带来的下游安全改进来评估其价值。为
TwinBreak: Jailbreaking LLM Security Alignments based on Twin Prompts.
大型语言模型（LLM）在翻译、代码生成等任务中表现出巨大优势，但同时引入了社会风险，恶意用户可通过有害提示（如请求非法活动指导）利用模型。为缓解此问题，模型通常内置安全机制自动拒绝此类提示。然而，现有越狱方法常需大量人工、高计算成本或导致模
Retroactive Chain-of-Thought (RetroCoT): Forensic Reconstruction Prompts as a Safety Diagnostic Across Model Generations
本文发现大型语言模型的安全对齐高度依赖于语用语境（pragmatic register），即模型对直接有害请求的拒绝并不能泛化到相同底层意图但不同语用表述的请求上。作者提出了一种名为“回溯式思维链”（RetroCoT）的单轮攻击方法，该方法
HARC: Coupling Harmfulness and Refusal Directions for Robust Safety Alignment
该论文研究了大型语言模型（LLM）在安全对齐后内部表示的安全方向问题。作者首先证实了之前的工作：对齐的LLM在提示侧（prompt-side）的残差流中编码了“有害性”（harmfulness）和“拒绝”（refusal）两个可分离的方向。
The Geometry of Refusal: Linear Instability in Safety-Aligned LLMs
该论文研究了大型语言模型（LLM）中安全拒绝机制的几何特性。作者提出了一种名为“对比对数几率引导”（CLS）的零优化框架，通过对比安全系统提示和不受限系统提示下的隐藏状态，提取出“拒绝方向”。与以往干预内部激活的表示工程方法不同，CLS直接
From Refusal Geometry to Safety Geometry: Harmfulness--Refusal Coupling under Dynamic Adversarial Fine-Tuning
该论文研究了语言模型在安全对齐过程中，拒绝有害请求与回答良性请求之间的耦合关系。现有评估通常只关注模型的最终拒绝表现，但未能揭示模型是否真正学会了识别有害性、激活拒绝策略，还是仅将两者简单耦合。为此，作者提出了一种“双安全几何”协议，通过测
Greedy Coordinate Diffusion: Effective and Semantically Coherent Adversarial Attacks via Diffusion Guidance
本文提出了一种名为Greedy Coordinate Diffusion (GCD)的新型对抗攻击框架，用于攻击经过安全对齐的大型语言模型（LLM）。现有攻击方法存在两类问题：基于优化的攻击（如GCG）生成高困惑度、不连贯的后缀，容易被基于
When Autoregressive Consistency Hurts Safety Alignment
本文研究了大型语言模型（LLM）安全对齐的脆弱性，提出其根本原因在于自回归一致性——即自回归模型在预测下一个token时倾向于保持并延续当前生成轨迹的特性。作者通过分析安全对齐微调的学习动态，发现对齐更新主要集中在输出序列的前几个token
Cross-Generational Transfer of Adversarial Attacks Reveals Non-Monotonic Safety Alignment in LLMs
本文研究了大型语言模型 (LLM) 在跨代际间的安全对齐是否单调提升。作者选取 Google 的 Gemma 系列四代模型（7B-31B），采用质量多样性进化算法（MAP-Elites）作为自动化红队探测工具，对模型进行对抗性攻击生成和评估
AgentDoG 1.5: A Lightweight and Scalable Alignment Framework for AI Agent Safety and Security
该论文针对开放世界AI代理（如OpenClaw）在跨环境执行时引入的新型安全风险，提出了一种轻量级、可扩展的代理安全对齐框架AgentDoG 1.5。研究背景指出，现有前沿AI模型大幅降低了攻击门槛，而当前的对齐框架不足以应对真实部署中的威