Shai Hulud attack ships signed malicious TanStack, Mistral npm packages
Hundreds of packages across npm and PyPI have been compromised in a new Shai-Hulud supply-chain campaign delivering cred
今日共收录 822 条安全情报,包含 0 个 CVE,457 篇安全通告,以及 56 篇研究论文。
← 返回归档列表Hundreds of packages across npm and PyPI have been compromised in a new Shai-Hulud supply-chain campaign delivering cred
Instructure, the edtech giant behind the widely popular Canvas learning management system (LMS), has reached an "agreeme
RubyGems, the standard package manager for the Ruby programming language, has temporarily paused account sign ups follow
Why do the Riskiest SOC Alerts Go Unanswered? Security operations teams are drowning in alerts. But the real problem isn
Fresh security updates resolve critical flaws in Azure, Windows, Dynamics 365, and the SSO Plugin for Jira & Confluence.
The company took systems offline globally after hackers exfiltrated data and deployed file-encrypting ransomware. The po
TextSeal 是一种面向大型语言模型(LLM)的先进水印方案,旨在解决 LLM 生成内容的溯源保护与模型蒸馏检测问题。该方案基于 Gumbel-max 采样,通过引入双密钥生成机制来恢复输出多样性,避免传统水印导致的生成文本重复或模式化
该论文研究了大型语言模型(LLM)在模拟个体隐私决策方面的能力。随着LLM被越来越多地用于模拟人类行为,理解其能否准确反映真实用户的隐私偏好变得至关重要。作者提出了PrivacySIM评估套件,旨在通过一组核心用户角色属性(人口统计信息、过
该论文提出 SkillSafetyBench,一个用于评估大型语言模型(LLM)代理在面临技能层面攻击时安全性的可运行基准。当前,可复用技能(skill)已成为扩展LLM代理能力的常见接口,它们以插件形式封装了执行文件操作、工具调用、内存访
该论文关注LLM agent技能生态系统的安全风险。随着用户从市场、仓库等渠道安装第三方技能,技能既包含可执行代码又包含上下文文档,其部署风险无法通过单次审计或提示级红队评估充分衡量。作者定义了一种名为“自适应泄漏”的风险:攻击者可以利用审
本文提出并实现了 IPI-proxy,一个开源的红队测试工具包,专门用于评估 Web 浏览型 AI 代理对间接提示注入(IPI)的防御能力。当前企业环境中,AI 代理通常被限制访问白名单域,但攻击者仍可通过在合法域中嵌入隐藏指令来实施 IP
本文针对AI Agent技能的安全验证问题展开研究。Agent技能为LLM Agent提供了第三方能力(如文件系统访问、凭据管理、网络调用及shell执行),现有安全机制仅能检测恶意提示和运行时风险行为,但技能工件本身缺乏验证。作者将这一问
该论文提出了一种名为 Persona-Conditioned Adversarial Prompting (PCAP) 的自动化红队测试方法,用于发现和缓解大型语言模型(LLM)的安全漏洞。传统的自动红队测试往往只发现狭窄的攻击面,无法覆盖
该论文提出了 Cochise,一个面向自主渗透测试实验的轻量级参考框架(harness),仅 597 行 Python 代码。Cochise 的核心贡献在于提供了一个可复现的实验基础设施,使研究人员能够独立于具体的 LLM 模型、Agent
本文提出了一种名为“二项式多比特LLM水印”的新方法,旨在解决现有LLM水印技术在商业部署中需要编码复杂载荷(如用户ID、时间戳)时面临的精度和鲁棒性不足问题。核心创新在于引入二项式编码机制,直接在每一个令牌(token)位置编码载荷的每一
本研究聚焦于多智能体LLM系统中的规划时安全漏洞。当前多智能体系统(MAS)常采用规划器-执行器架构,规划器将用户提示转换为子任务、角色、依赖关系和路由路径。这种灵活性虽然实现了自适应协调,但也暴露出工作流程形成中的攻击面:攻击者可以通过精
随着大语言模型(LLM)的快速发展,基于LLM的智能体系统能够执行复杂的多步骤任务,网络安全领域成为其重要应用方向之一。为了评估这类智能体的能力,研究者广泛采用“夺旗赛”(CTF)基准测试。然而,现有的CTF基准测试通常复用已有的挑战题目,
该论文探讨了企业AI从副驾驶向自主代理转变过程中面临的授权挑战。随着自主代理能够跨组织边界执行工作流、协商结果并做出决策,传统的身份验证机制已不足以确保安全。论文指出,代理的授权必须明确、可约束、可审计、可撤销,并且能被独立接收方一致解释。
该论文提出了一种针对基于大语言模型(LLM)的智能体系统的新型攻击范式,称为 Mobius Injection,可引发基于智能体的面向服务的分布式拒绝服务(AbO-DDoS)攻击。作者发现智能体逻辑中存在的结构漏洞“语义闭合”(Semant
随着模型上下文协议(MCP)在AI代理中的广泛采用,如何确保工具调用通过有意义的用户同意来保障安全成为关键挑战。现有方法要么采用粗粒度的“始终允许”开关,要么依赖不透明的LLM决策,既无法检测危险的调用参数,又容易导致用户同意疲劳。本文提出