GitHub to Disable npm Install Scripts by Default to Stop Supply Chain Attacks
GitHub has announced what it said are "breaking changes" coming to npm version 12, one of which turns off install script
2026-06-12 归档
今日共收录 1106 条安全情报，包含 305 个 CVE，402 篇安全通告，以及 120 篇研究论文。
← 返回归档列表Mind your key: An Empirical Study of LLM API Credential Leakage in iOS Apps
本研究首次系统性地调查了iOS应用中大型语言模型（LLM）API密钥泄露问题。研究团队从1092个候选应用中通过标准化流程筛选出444个高质量iOS应用，并开发了动态分析框架LLMKeyLens。该框架通过流量拦截、提供商特定的密钥提取以及
OpenPCC: Open and Confidential LLM Serving on Commodity TEEs
本文聚焦于生成式AI应用中大型语言模型（LLM）的云推理服务（CIS）的隐私保护问题。用户请求中包含大量敏感个人信息或企业机密，但现有CIS缺乏足够保护。苹果的Private Cloud Compute（PCC）和Google的Privat
Who Pays the Price? Stakeholder-Centric Prompt Injection Benchmarking for Real-world Web Agents
该论文关注大语言模型驱动的Web代理在现实部署中面临的提示注入攻击风险。现有安全基准采用“攻击中心”视角，只关注注入的技术可行性，忽略了攻击对不同利益相关者造成的差异化危害。作者提出StakeBench，一个以利益相关者为中心的基准测试框架
Detecting Functional Memorization in Code Language Models
本文研究了代码语言模型中的一种新型记忆现象——功能记忆（functional memorization）。传统研究通常通过文本重叠（如n-gram匹配）来检测模型是否从训练数据中记忆了代码片段，但代码具有功能等价而文本不同的特性，例如通过重
PI-Hunter: Automated Red-Teaming for Exposing and Localizing Prompt Injections
大型语言模型（LLM）正快速演变为能够与外部工具和环境交互的智能体系统，这引入了新的安全风险，例如通过不可信外部源发起的间接提示注入攻击。现有的防御措施主要专注于在推理时阻断恶意内容，而当前的红队测试方法则主要优化攻击成功率。因此，开发人员
Smarter Saboteurs, Better Fixers: Scaling & Security in Linear Multi-Agent Workflows
本文研究了基于大语言模型的多智能体系统（MAS）在线性协作结构下的安全韧性。随着LLM驱动的MAS被部署到真实场景，攻击者可能通过提示注入或越狱攻击破坏单个智能体，但模型规模与系统级韧性之间的关系尚不明确。作者在两个开源模型族的不同规模上，
Grammar-Constrained Decoding Can Jailbreak LLMs into Generating Malicious Code
大型语言模型（LLM）越来越多地用于代码生成，但可能被滥用于生成恶意代码。语法约束解码（GCD）是一种提高LLM生成代码可靠性的技术，通过强制语法正确性来确保输出有效。本文揭示了一个反直觉的风险：原本用于提升可靠性的GCD技术本身可能成为攻
SAIGuard: Communication-State Simulation for Proactive Defense of LLM Multi-Agent Systems
基于大语言模型的多智能体系统（MAS）通过智能体间通信协同完成复杂任务，但这种通信驱动特性也使安全风险能够在智能体间传播，导致系统级故障。现有MAS防御主要遵循执行后的反应式范式，通过检测和隔离有害智能体来应对威胁，但这种方式可能造成不可逆
Can Open-Source LLM Agents Replace Static Application Security Testing Tools? An Empirical Assessment
本文旨在评估开源大语言模型（LLM）代理能否替代静态应用安全测试（SAST）工具。作者构建了一个基于通用生成式AI（GenAI）的代理，使用三个不同的Ollama托管的开源通用模型（未指定具体模型名称），并以现有的SAST工具Bandit作
Runtime Skill Audit: Targeted Runtime Probing for Agent Skill Security
该论文提出了一种针对大语言模型（LLM）代理技能安全性的动态分析方法——Runtime Skill Audit (RSA)。随着LLM代理技能的广泛应用（如复用指令、工具、工作流等），攻击者可能将恶意行为隐藏于技能中：技能在文档或代码层面看
Dummy Backdoor as a Defense: Removing Unknown Backdoors via Shared Internal Mechanisms for Generative LLMs
本文针对大型语言模型（LLM）面临的后门攻击威胁，提出了一种新颖的防御方法。后门攻击会使模型在遇到特定触发器时输出攻击者指定的响应，而正常输入下表现正常。现有的防御方法往往需要知道攻击类型或内部机制，但在实际中防御者通常对攻击一无所知。本文
JailbreakOPT: Tool-Assisted Iterative Jailbreak Prompt Optimization
本文提出 JailbreakOPT，一个工具辅助的迭代式越狱提示词优化框架，旨在提升大型语言模型（LLM）单轮越狱攻击的效果。现有方法存在权衡：手工越狱提示词表达力强但静态，而迭代优化虽然能自适应但常依赖低层变异操作，需要大量目标查询。Ja
Risk Under Pressure: Compute-Aware Evaluation of Adversarial Robustness in Language Models
本文提出了一种计算感知（compute-aware）的对抗鲁棒性评估框架，旨在更准确地衡量大型语言模型（LLM）在面对对抗性攻击时的实际风险。传统评估方法通常固定查询预算并报告攻击成功率（ASR），但忽视了不同攻击策略在计算成本上的巨大差异
When Discovery Outpaces Remediation: Modeling AI-Accelerated Vulnerability Discovery in Interconnected Systems
该论文针对AI加速漏洞发现可能超越修复能力的问题，提出了一种基于排队论和网络理论的模型。研究背景是：先进AI代码分析、二进制分析、模糊测试编排和渗透测试规划显著提高了潜在漏洞的发现速率，虽然有利于防御者，但也可能导致修复管道过载并加速对手武
Context-Based Adversarial Attacks on AI Code Generators: Vulnerability Analysis and Implications
本研究系统性地调查了基于上下文的对抗性攻击对AI代码生成器的影响。AI代码生成系统虽然提高了开发效率，但在推理时存在安全漏洞，攻击者可以通过精心构造的上下文输入（如注释、文档、变量名）来偏置大语言模型，使其生成包含可利用漏洞的代码。作者在C
Comparative Analysis of Inference-Time Defense Methods for Multimodal Large Language Models
本文对多模态大语言模型（MLLMs）的推理时防御方法进行了系统的比较实证评估。研究背景是，MLLMs 在安全关键应用中广泛出现，但视觉通道的存在使其容易受到对抗性攻击，而主要针对文本的安全对齐只能部分缓解这类威胁。此外，为每种新的漏洞类别重
Training LLMs to Enforce Multi-Level Instruction Hierarchies via Gravity-Weighted Direct Preference Optimization
本文针对大型语言模型（LLM）在生产环境中面临的多源指令冲突问题，提出了一种基于层级指令层次结构的训练方法。现有LLM在架构上对所有令牌赋予相同的处理优先级，这使其容易受到恶意提示注入攻击，且缺乏解决合法但冲突指令的原则性方法。已有的训练方
Toward Secure LLM Agents: Threat Surfaces, Attacks, Defenses, and Evaluation
大型语言模型（LLM）代理正从对话界面快速演变为能够规划、调用工具、维护内存并在外部环境中行动的软件组件。这一转变改变了安全风险的本质：在代理化环境中，故障不再局限于不安全的文本生成，不受信任的内容可能重定向控制流、滥用工具权限、破坏持久状
ShinyHunters Exploits Oracle PeopleSoft Zero-Day (CVE-2026-35273) to Breach Universities
CVE-2026-35273
The ShinyHunters extortion crew exploited an unpatched flaw in Oracle PeopleSoft to break into enterprise systems, steal