Refusal Evaluation in Coding LLMs and Code Agents: A Systematic Review of Thirteen Malicious-Code Prompt Corpora (2023-2025)
该论文对2023-2025年间公开发布的13个用于评估大语言模型(LLM)在恶意编码任务上拒绝能力的提示语料库(包括AdvBench、CyberSecEval系列、RMCBench、RedCode、MCGMark、JailbreakBenc
今日共收录 1105 条安全情报,包含 281 个 CVE,422 篇安全通告,以及 120 篇研究论文。
← 返回归档列表该论文对2023-2025年间公开发布的13个用于评估大语言模型(LLM)在恶意编码任务上拒绝能力的提示语料库(包括AdvBench、CyberSecEval系列、RMCBench、RedCode、MCGMark、JailbreakBenc
该论文针对检索增强生成(RAG)系统面临日益增长的对抗攻击问题,指出现有防御方法(如基于语义分析或投票)存在计算成本高或鲁棒性不足的缺陷,其根本原因在于仅关注语义内容相关性而忽略了由排序结构定义的检索上下文。作者研究了中毒文档和良性文档的双
本文指出,LLM基准测试数据集对于可重复、可靠和有区分度的评估至关重要。然而,近期研究表明许多基准数据集已被包含在预训练语料中,即遭到“污染”,这削弱了它们作为模型泛化能力可靠度量的价值。作者主张基准数据集应当具备“抗污染”能力,即无法被学
该论文针对大型语言模型(LLM)的越狱安全问题,提出了一种基于自适应探针引导的对抗性攻击方法。现有对比引导越狱方法依赖于有限且具有固有偏见的对比提示,并需要大量手动调整引导强度,导致鲁棒性和有效性不足。作者利用模型提取的思想,通过学习引导向
本文针对大型语言模型(LLM)在面对 jailbreak 攻击时易产生不安全响应的问题,提出了一种基于预模型守卫的新型防御架构。现有防御方法分为两类:预模型守卫仅审计用户提示词,但容易漏检(假阴性率高);后模型守卫同时审计提示词和模型响应,
该论文首次揭示了LLM推理优化中的编译过程可能被恶意利用来植入后门。作者提出了一种统一的优化触发后门攻击框架,包含两种互补策略:第一种策略仅在模型被编译后,对特定输入翻转预测结果;第二种策略使用通用触发器,在未编译时保持潜伏,一旦应用编译优
该论文针对量子计算机对现有公钥密码体系(RSA、Diffie-Hellman、椭圆曲线)的威胁,特别是“先收后解密”(HNDL)攻击模型——攻击者可先存储加密流量,待量子计算机成熟后离线解密,提出了一种基于洋葱路由(Tor)的多电路密钥协商
Benchmarking Autonomous Agents against Temporal, Spatial, and Semantic Evasions
该周报是CNCERT(国家互联网应急中心)发布的2026年第13期网络安全信息与动态周报,通常汇总近期国内外网络安全动态,包括漏洞预警、恶意程序活动、网络安全事件等。但本次输入未提供具体正文内容,仅包含标题、来源和发布时间。因此无法获取具体
本报告为CNCERT(国家计算机网络应急技术处理协调中心)发布的2026年第15期网络安全信息与动态周报。报告总结了2026年4月13日至4月19日期间的网络安全态势,主要包括以下内容:1)漏洞信息:通报了多个高危及以上级别的漏洞,涉及We
The PasskeyEncipherImage method is vulnerable to information disclosure via AES-CTR nonce reuse. ImageMagick has update
An user supplied large binomial kernel could result in an overflow that would lead to a division by zero.
An incorrect fix that was applied in GHSA-5592-p365-24xh could result in a heap buffer over-write of a single byte.
Impact: @hulumi/policies versions before 1.3.2 only checked exact AWS IAM StringLike/StringEquals condition operator key
Impact: @hulumi/policies versions before 1.3.2 did not fully inspect inline and attached IAM policy evidence for the adm
Impact: @hulumi/policies versions before 1.3.2 could accept spoofed SecureBucket parent evidence for HULUMI-H1, allowing
Impact: @hulumi/drift versions before 1.3.2 could accept externally supplied execute plans without sufficient provenance
Fuzz testing is the dominant technique for finding memory-safety vulnerabilities in C/C++ software, yet its effectivenes
CVE-2026-40860
Apache Camel JMS 反序列化(CVE-2026-40860)漏洞分析
CVE-2026-9082
Drupal has released security updates for a "highly critical" security vulnerability in Drupal Core that could be exploit