PRWeaver: Evaluating LLM-Based Code Auditors against Long-Horizon Malicious Pull Requests
该论文关注基于大语言模型(LLM)的代码审计器在 pull-request(PR)工作流中的可靠性问题。尽管这类审计器已被广泛集成,但其对跨仓库演进过程中分布式恶意更改的抵御能力仍缺乏系统研究。为此,作者提出了 PRWeaver 基准,包含
今日共收录 766 条安全情报,包含 0 个 CVE,370 篇安全通告,以及 100 篇研究论文。
← 返回归档列表该论文关注基于大语言模型(LLM)的代码审计器在 pull-request(PR)工作流中的可靠性问题。尽管这类审计器已被广泛集成,但其对跨仓库演进过程中分布式恶意更改的抵御能力仍缺乏系统研究。为此,作者提出了 PRWeaver 基准,包含
本文提出 PolicyGuard,一个面向 LLM 编程助手的提示词拦截框架,用于在用户提示词进入代码生成模型之前进行语义级数据防泄漏(DLP)检测。研究背景是:AI 编程助手接受自由形式的自然语言提示,其中可能无意包含凭据、个人身份信息(
该论文研究自进化大语言模型(LLM)智能体中的新型安全风险。自进化智能体通过将交互轨迹蒸馏为持久化经验来提升能力,但这一机制引入了安全隐患:单独看无害的经验,在跨会话积累并复用时可能共同削弱智能体的安全边界。现有记忆攻击通常需要直接访问记忆
该论文研究多智能体大语言模型(LLM)系统中的私有状态泄露问题。尽管智能体的公开输出看似正常,但其内部消息、工具参数、日志和持久化记忆可能暴露受保护状态。现有的隐私提示、文本脱敏和源代码级访问控制只能限制表面内容或数据访问,却没有明确规定一
本文针对大语言模型(LLM)智能体在多阶段工作流(如记忆、规划、工具执行等)中面临的安全风险问题。现有安全方法通常只保护单一阶段,难以集成和覆盖全流程,导致智能体在整个工作流中缺乏全面防护。为此,作者提出“阶段特定安全技能”(Stage-S
本文研究基于线性时序逻辑(LTL)和有限状态自动机(FSA)的运行时安全监控器在防御大语言模型(LLM)智能体工具调用序列时的失效原因。实际部署中,同一监控器在不同模型架构上对攻击的覆盖率差异巨大:在部分架构上可达 68-75%,而在另一些
该论文研究了大型语言模型(LLM)和小型语言模型(SLM)在生成基础设施即代码(IaC)时的安全性问题,特别是针对AWS Terraform配置。云配置错误是安全事件的主要根源,但业界对LLM/SLM能否生成符合安全规范的IaC缺乏系统性评
本文研究大语言模型安全评估中的一个核心方法论问题:基准测试通常以单一规范表面形式(canonical surface form)读取每个测试项目,但这是否能真实反映模型行为?作者提出,当保持项目意图不变、仅改变其保持语义的表面形式时,规范形
该论文提出了一种名为 SparSEEty 的新型令牌提取攻击,针对利用激活稀疏性优化推理性能的大语言模型(LLM)服务系统。现代 LLM 在推理时仅激活部分神经元,这一特性被许多服务系统用于跳过非激活神经元的权重访问和计算,从而提升效率。然
本文提出了一种面向开放数字孪生生态系统中可验证AI代理的神经符号化参与治理框架。研究背景是:随着大语言模型赋能的自主AI代理日益成为高价值决策支持系统的重要组成部分,在多机构、去中心化环境下,现有代理系统缺乏对身份、能力和策略合规性的强健验
[原创] 别傻了,你的引擎加密挡不住"不讲武德"的邪修 —— XA 内存盲打补丁,记偏移秒改的实战套路
## Summary The `/api/v1/text-to-speech/generate` endpoint is whitelisted (requires no authentication) and accepts any `
CVE-2026-42530
Nginx远程代码执行漏洞分析与利用(CVE-2026-42530)
CVE-2026-18556 · CVE-2026-18577
The U.S. Cybersecurity and Infrastructure Security Agency (CISA) on Monday added a high-severity security flaw impacting
本文针对远程证明(Remote Attestation)架构中的一个重要缺口展开研究。背景是:当AI代理等自动化代理执行关键操作时,其留下的操作记录往往由同一软件栈生成,因此记录的真实性无法自证。签名日志只能说明哪个密钥签署了记录,却无法保
本文提出了 FAR.AI 人工智能安全基准(AI Security Leaderboard)的首个版本,并详细介绍了其方法论、结果与最低标准(Minimal Standard for Safeguards, Version 1.0)。研究背
本文提出了一种名为 SpreadMark 的鲁棒图像水印方法,针对深度伪造检测和来源追踪场景中水印需要抵抗有意移除的问题。作者首先指出现有基于编码器-解码器的水印方案存在一个共同弱点:每个消息比特只占据图像的一小部分区域,因此攻击者只需扰动
QUIC 作为一种面向现代网络设计的传输协议,在提升性能与安全性的同时,仍面临握手洪泛攻击的威胁。攻击者通过发送大量握手请求,迫使服务器执行昂贵的密码学运算,从而耗尽 CPU 资源。QUIC 内置了 Retry 机制作为防御手段,但实验表明
本文针对智能体AI(Agentic AI)系统的技术债务问题,首次系统性地提出了“智能体技术债务”(Agentic Technical Debt, AgTD)这一概念。传统AI技术债务(AITD)的研究主要基于静态的、组件级的软件架构,无法
该论文研究链式思维(Chain-of-Thought, CoT)监控在AI安全栈中的局限性。CoT监控假设模型的推理轨迹能够反映其真实行为,但作者通过模型投毒的手段挑战了这一假设。他们证明,攻击者可以在推理模型中植入后门,使模型执行攻击者指