DARWIN: Evolving Jailbreak Adversary and Guardrail for LLM Safety Evaluation and Protection
该论文提出DARWIN框架，将大语言模型（LLM）的越狱攻击与防御建模为一个开放式的进化对抗过程。在攻击侧，DARWIN-Attack通过外部策略收集、自我反思与遗传进化生成新变体，并基于目标模型反馈自适应选择与组合策略，实现攻击能力持续扩
2026-07-23 归档
今日共收录 1422 条安全情报，包含 546 个 CVE，469 篇安全通告，以及 113 篇研究论文。
← 返回归档列表CPInj: Uncovering Prompt Injection Risks in Textual Collaborative Prompt Optimization
本文研究了文本协作提示优化（TCPO）中的提示注入风险。TCPO 扩展了 Textgrad 方法，允许多个客户端在本地数据不共享的情况下协同优化大语言模型（LLM）的提示。其核心依赖自由文本形式的更新与聚合，这引入了新的攻击面：恶意指令可通
Pure-DP Statistical Query Release at the Conjectured Square-Root Rate
本文解决了Nikolov和Ullman提出的一个关于纯差分隐私（pure differential privacy）下统计查询（statistical query）发布问题的猜想。问题背景是：在一个大小为T的宇宙上，发布k个统计查询，期望的
The Ethics of Autonomous AI Agents for Offensive Security
本研究探讨了基于大语言模型（LLM）的自主智能体在攻击性安全领域引发的伦理问题。传统渗透测试工具具有确定性、范围狭窄且依赖受过训练的操作者，而LLM驱动的自主安全智能体则表现出三个维度的不确定性：首先，其行动来自非确定性策略，输出难以事前或
HijackKV: New Threat in Position-Independent KV Cache Reuse
该论文由张一驰等人发表，揭示了大型语言模型（LLM）推理优化中的一项新安全威胁：位置无关键值（KV）缓存重用带来的KV缓存劫持。传统LLM推理使用基于前缀的KV缓存重用，因要求精确的令牌和位置匹配，导致跨请求的缓存命中率低。为提升效率，最新
Defense Against LLM Backdoors using Critical Neuron Isolation Pruning
大型语言模型（LLM）易受后门攻击，攻击者通过隐藏触发器诱导模型产生恶意输出。现有防御方法主要分为推理时检测和训练时缓解，但存在两个关键局限：首先，它们通常针对基于微调（如PEFT模块）的后门，无法应对绕过训练流程的模型编辑攻击；其次，它们
Twin Agent: Context Residual Compression for Privilege Separated Agents
该论文针对大型语言模型（LLM）智能体面临的安全风险，特别是来自不可信上下文的提示注入攻击，这些攻击会操纵下游推理和工具调用。现有的安全设计方法通过分离不可信观察与特权执行，并严格控制信息流来缓解风险，但往往会降低实用性并需要大量针对特定任
Integrity of peer-to-peer distributed LLM inference under malicious nodes
本文研究点对点（P2P）分布式大语言模型（LLM）推理场景下的输出完整性验证问题。在P2P架构中，LLM的各层分散在多个独立方拥有的节点上，每个推理请求依次经过这些节点。任何恶意节点都可能篡改其负责的层输出，导致最终结果被破坏。现有方法如已
Guardrails as Scapegoats: Auditing Unfaithful Safety Refusals in Tool-Augmented LLM Agents
本文针对工具增强型大语言模型（LLM）代理在工具调用过程中遇到静默故障（如返回空值、null 或格式错误但 HTTP 200 成功）时的行为进行审计。当前评估框架主要关注代理的能力指标或显式工具崩溃，忽视了这类基础设施级静默故障。作者提出一
SFGA: A Statistics-First Gating Architecture with Adjudicative Escalation for Trustworthy SFT Data Procurement
该论文提出了一种名为SFGA（Statistics-First Gating Architecture with Adjudicative Escalation）的架构，用于解决监督微调（SFT）数据采购中的信任问题。在SFT数据采购中，买
Cross-Agent Campaign Attribution: Linking Asynchronous Attacks Across LLM Agents
本文针对LLM智能体（Agent）部署中的跨智能体异步攻击归因问题，提出了一种新的安全评估维度。当前LLM智能体防御通常仅针对单次会话进行评估，但在实际部署中，攻击者可以将攻击分散到多个独立的智能体、团队或运行时环境中，导致每个本地防护栏只
When to Trust the Map: Confidence-Aware LLM Routing for Automotive CVE-to-ATM Mapping
本文针对汽车行业CVE（通用漏洞披露）与Auto-ISAC汽车威胁矩阵（ATM）之间映射不一致的问题，提出了一种置信度感知的LLM路由框架。由于CVE描述侧重于技术条件和影响，而ATM表达的是攻击者的战术和技术，两者直接映射在安全关键环境中
Broken Gates: Re-evaluating Web Bot Defenses in the Age of LLM Agents
本研究系统评估了基于LLM的浏览器代理对现有Web机器人防御体系的有效性冲击。随着LLM代理能够自主导航、理解页面内容并执行自然语言指令，传统基于预设脚本的自动化框架已无法代表新一代攻击能力。作者将攻击者分为两类：商业验证码破解服务和LLM
Trusted Credentials, Untrusted Behavior: Benchmarking LLM-Agent Security in High-Performance Computing
本文研究在高性能计算（HPC）环境中，大语言模型（LLM）代理面临的安全威胁。随着LLM代理开始承担HPC中的常规任务，如监控Slurm作业、诊断构建失败、检查模拟输出和协调科学工作流，它们通常使用用户的凭证运行，继承用户对文件和调度器的访
ChannelGuard: Safe Models Do Not Compose into Safe Multi-Agent Systems
本研究聚焦于多智能体大语言模型（LLM）应用中的安全漏洞。此类应用通常由规划器、工作智能体、验证器和合成器串联组成，智能体之间的每一次跳转构成一个未受监控的通道，攻击者可通过这些通道注入恶意指令。现有防御（如输入边界保护器、困惑度过滤器、S
ChainMark: Model-Free LLM Watermarking with Closed-Form Calibration
本文针对欧盟《人工智能法案》等法规要求对合成文本进行机器可读标记的背景，提出了一种无需依赖生成语言模型的水印方法 ChainMark。现有水印检测器通常需要访问生成模型，且依赖启发式阈值，缺乏闭式校准。ChainMark 是一种主动水印技术
Adaptive Adversaries: A Multi-Turn, Multi-LLM Benchmark for LLM Agent Security
本论文针对LLM智能体（LLM-based agents）在处理外部内容时面临的提示注入和多轮操纵攻击这一安全问题，提出了一个名为“Adaptive Adversaries”的多轮、多LLM安全评估基准。现有安全基准大多在评估前收集固定的攻
HALLMARK: Diagnosing Three Failure Modes in LLM Citation Verifiers
随着大型语言模型（LLM）在文献综述和学术写作中的广泛使用，模型生成的虚假引用（幻觉引用）问题日益严重。GPTZero调查发现NeurIPS 2025已接受的论文中有53篇存在幻觉引用。现有基于规则或LLM的引用验证器虽已出现，但缺乏统一的
JailMeter: An Evidence-Based Evaluation Framework for Jailbreak Attacks on Large Language Models
当前针对大型语言模型的越狱攻击评估存在评价标准和方法不一致的问题，导致攻击成功率的估计不可靠。为此，本文提出JailMeter——一种基于证据的评估框架，旨在更忠实地衡量越狱攻击的有效性。受信息瓶颈理论启发，JailMeter采用双反馈优化
Insecure Coding Preferences in Long-Term Memory: Security Risks for LLM-based Code Generation
本文首次系统性地实证研究了基于LLM的代码生成系统中长期记忆存储的不安全编码偏好对代码安全性的影响。研究选取了ChatGPT、Gemini、Qwen和Grok四种LLM，以及Python、C、C++、Go和JavaScript五种编程语言，