When LLM Defenses Backfire: Characterizing Safety, Performance, and Cost Trade-offs
本文对大型语言模型(LLM)的越狱防御方法进行了系统性研究,重点关注防御措施引入的副作用,包括性能影响、良性输入过度拒绝以及推理成本。作者将防御方法按操作策略分类(如基于规则、自我反思、多轮防御等),而非视为单一类别,并分析不同策略如何与不
今日共收录 1422 条安全情报,包含 510 个 CVE,504 篇安全通告,以及 114 篇研究论文。
← 返回归档列表本文对大型语言模型(LLM)的越狱防御方法进行了系统性研究,重点关注防御措施引入的副作用,包括性能影响、良性输入过度拒绝以及推理成本。作者将防御方法按操作策略分类(如基于规则、自我反思、多轮防御等),而非视为单一类别,并分析不同策略如何与不
本文提出 DeepFaith,一个面向多阶段 APT 防御的、基于证据的忠实事件报告生成框架。现有自主防御系统虽能利用溯源图和学习模型进行检测与缓解,但其输出偏向机器导向,分析师难以理解。大型语言模型(LLM)虽能生成自然语言报告,但常出现
本文围绕大型语言模型(LLM)在安全运营中心(SOC)日志分析中的应用展开,重点研究了提示注入攻击对该类系统鲁棒性的威胁。随着LLM被越来越多地用于辅助分析师解读系统日志,攻击者可以通过在日志条目中注入恶意上下文或指令来操纵模型的判断,从而
本文提出了一种面向中国网络安全等级保护(MLPS)的大语言模型框架,旨在解决传统MLPS分析依赖人工解读规则和基于规则的工具,难以在复杂场景下提供稳定一致合规分析的问题。该框架集成了多种检索策略,包括层次化检索、基于树的检索和基于分词的匹配
本文评估了大型语言模型(LLM)在自动生成安全认证代码方面的能力。研究选取了五种主流AI编码助手,通过双模态评估框架(静态代码分析结合动态渗透测试)并参照NIST SP 800-63B指南,分析了四种提示策略(基础、安全、NIST引导、迭代
该论文提出了一种名为 HiTMS 的高吞吐量多流语言学隐写框架。传统生成式语言学隐写方案是单流的,即通过单个提示的单个响应来传递完整的秘密消息,这导致两个问题:缺乏对批量多流推理的协议级支持,且简单的批量处理无法隐藏槽位占用或有效载荷完成状
该论文研究了大型语言模型(LLM)在特定场景下绕过安全对齐(safety alignment)的漏洞。尽管经过安全微调的LLM被训练成拒绝有害请求,但将相同请求嵌入特定场景(如角色扮演、上下文包装)时,其防护机制可能被绕过。现有红队方法通过
本文针对基于大语言模型(LLM)的智能体(agent)的长时记忆(LTM)隔离机制展开安全研究。LLM agent通过LTM在多个会话间持久化用户隐私敏感数据,生产系统通常将每个用户的LTM绑定唯一标识符以实现隔离,防御已知的共享存储提取攻
该论文提出了一种新颖的验证码(CAPTCHA)方法,利用客户端GPU在受控WebGL渲染负载下的物理时序行为作为区分人类与自动化程序的信号。与传统的基于像素输出的WebGL指纹识别不同,该方法测量渲染时间动态以进行分类,而非识别,因此不会泄
该论文聚焦于智能体系统中世界模型(world model)的安全性问题。世界模型是一种专门训练的环境模拟器,旨在帮助基于大语言模型的自主智能体预测其动作的后果,从而提升多步任务执行的准确性。然而,作者发现世界模型可能被攻击者操纵,导致智能体
本论文聚焦于大型语言模型(LLM)在代码生成中的安全性问题,指出现有基准测试往往依赖明确指定的安全需求,无法覆盖真实开发中提示词模糊或不完整的场景。作者从开发者视角出发,识别出三类典型风险场景:模糊需求(Ambiguous Requirem
该论文研究了大语言模型(LLM)在关键基础设施领域生成代码时的安全性问题,具体关注领域特定提示(sector-conditioned prompting)如何影响生成代码的漏洞率。作者提出了 SecDrift 基准测试,用于衡量“安全漂移”
CVE-2026-42530
Nginx远程代码执行漏洞分析与利用(CVE-2026-42530)
CVE-2026-53921
OpenWrt has shipped version 24.10.8 to close a critical DHCPv6 stack overflow and a wider set of remotely triggerable fl
CVE-2026-53264
STAR Labs has published a Linux kernel exploit that turns an ordinary local user into root on the CentOS Stream 9 build
量子误差缓解(QEM)是降低量子硬件噪声的重要工具,但其可靠性依赖于建模、校准和实现,导致在不可信量子硬件上的端到端安全问题未解决。本文提出可验证盲概率误差消除(VBPEC),这是首个集成QEM、针对完全恶意对手的安全验证协议。VBPEC将
移动增强现实(MAR)应用能够收集和处理高度敏感的数据(如空间地图和生物特征),但其隐私政策长期以来缺乏系统研究。以往的隐私政策审计通常仅针对单一法律框架(如GDPR),而美国已有20个州实施了全面的隐私法律,导致隐私政策义务碎片化且快速演
该论文提出了一种名为Hermes的拜占庭容错(BFT)共识协议,旨在解决传统基于领导者的BFT协议中尾延迟高的问题。传统协议中,如果领导者崩溃或缓慢,该视图将无法最终确定任何内容,且超时设置难以平衡:保守超时导致长时间停顿,激进超时则浪费缓
该论文针对自治网络L4-L5级别中AI智能体跨供应商调用工具时缺乏标准化信任管理机制的问题展开研究。当供应商B的工具被攻陷后,供应商A的智能体仍会继续调用该工具,且无法感知信任度的下降,导致级联服务影响。作者提出AgentToolMO模型,
本论文描述了团队“Go To Germany”在ImageCLEF 2026深度伪造检测与生成任务中的参赛方案及后续研究。在图像生成任务中,团队利用FLUX.1-dev与PuLID进行身份保持的面部合成,并设计了多模型PGD对抗攻击,同时针