One Click, Total Shutdown: The "Patient Zero" Webinar on Killing Stealth Breaches
The hardest part of cybersecurity isn't the technology, it’s the people. Every major breach you’ve read about lately usu
今日共收录 1100 条安全情报,包含 294 个 CVE,452 篇安全通告,以及 61 篇研究论文。
← 返回归档列表The hardest part of cybersecurity isn't the technology, it’s the people. Every major breach you’ve read about lately usu
The software developer has identified the impacted systems, removed potentially compromised files, and validated install
“TrustFall” attack shows how AI coding agents can be manipulated into launching stealthy supply chain compromises. The p
本文是首项针对GitHub CI工作流中由大语言模型(LLM)引入的安全风险的系统性研究。随着越来越多的CI工作流集成LLM来自动化代码审查、分类、内容生成和仓库维护,外部可控的工作流输入可以塑造LLM的提示词和输出,进而影响安全决策、仓库
该论文提出 SOCpilot 框架,旨在解决大语言模型(LLM)辅助的应急响应计划中的策略合规性问题。安全运营中心(SOC)开始使用 LLM 作为副驾驶来起草应急响应计划,但这些计划可能包含在目录中有效但违反强制性步骤、顺序要求或审批门控的
该论文提出了一种针对基于大型语言模型(LLM)的智能体的有状态后门攻击方法。现有后门攻击在单个会话内执行固定行为,且攻击状态无法跨会话持久化。作者设计了一种有状态后门,通过持久化组件(如文件系统、数据库等)维护攻击状态,使得在一次触发注入后
本文针对现代 LLM 代理在执行复杂任务时采用的迭代执行循环机制,提出了一种新型攻击——终止毒化(Termination Poisoning)。在这种循环中,代理反复进行推理、行动和自我评估,以判断任务是否完成。攻击者通过向代理的上下文注入
该论文提出了一种名为FedAttr的新型客户端级别归因协议,用于解决联邦学习中大型语言模型微调时的隐私保护与数据所有权问题。在联邦学习中,多个客户端协作微调模型,但通过安全聚合机制保护各个客户端的更新隐私,这导致难以识别哪个客户端使用了带有
本文提出 PACZero,一种基于 PAC(Probably Approximately Correct)隐私的零阶微调方法族,用于对大型语言模型进行私密微调,同时实现可用的效用和严格的理论隐私保证。核心挑战是:在传统差分隐私(DP)框架下
本研究提出了一种针对大型语言模型(LLM)的成员推断攻击方法——PopQuiz攻击。成员推断攻击旨在判断某个特定数据样本是否被用于模型训练,从而泄露训练数据的隐私。该方法将目标数据转化为多项选择题的格式,通过黑盒访问模型(即仅能获取模型输出
本文研究使用小型语言模型(SLM)进行面向解决方案的Windows事件日志分析。大型语言模型(LLM)在事件日志分析中展现出潜力,但高计算需求、对云基础设施的依赖以及安全顾虑限制了实际部署。此外,现有方法大多仅关注问题识别,未能提供可操作的
本文研究了大型语言模型(LLM)代理带来的新型隐私威胁,即通过自动化深度个人画像实现隐私入侵。现有研究多从LLM训练流程出发,关注通过记忆泄露个人身份信息(PII),而缺乏从人类中心视角的隐私研究。作者通过实证调查了真实世界中人类对隐私的感
本文针对自主LLM智能体面临的工作流劫持安全风险提出了一种新颖的被动式、带外检测方法。工作流劫持指攻击者在不被发现的情况下微妙地修改智能体调用的工具和技能,而现有防御依赖主机内部遥测(如审计日志),一旦主机操作系统被攻破,这些日志可以被伪造
本文聚焦于大型语言模型(LLM)安全对齐在面对有害微调(Harmful Fine-tuning, HFT)攻击时的脆弱性问题。研究表明,现有的防御方法(如对参数、梯度或内部表示施加约束)在持续性HFT攻击下容易被绕过,其根本原因在于高维参数
LLM agents 依赖提示(prompts)在基础大模型上实现特定任务能力,使得这些提示成为有价值的 intellectual property。但在不可信部署环境下,攻击者可以复制这些提示并在其他专有 LLM 上重用,导致经济损失。现
本文提出 SkillScope,一个面向 LLM Agent 中 Agent Skills 的细粒度最小权限强制框架。Agent Skills 通过将元数据、自然语言指令和可执行资源打包成可复用的能力包,扩展了 LLM Agent 的功能。
随着基础模型的快速发展,大型语言模型(LLM)智能体展现了日益强大的工具调用能力,但同时也引入了显著的安全风险,恶意行为者可能操纵智能体执行工具以生成有害内容。现有防御机制虽然有效,但常存在过度拒绝问题:提高安全严格性会损害智能体在良性任务
本文针对多轮对话中隐藏恶意意图的威胁,提出了一种响应感知的防御方法。攻击者可将恶意目的分散到多个看似无害的对话轮次中,绕过现有安全对齐和外部护栏。作者检测出“最早使得累计交互足以产生危害的轮次”,即“危害使能关闭点”,以实现精确的轮次级别干
该论文首次针对大型语言模型(LLM)驱动的代理浏览器(agentic browser)提出了以Web为中心的威胁模型。先前研究仅关注间接提示注入攻击,忽略了传统Web攻击对代理浏览器的威胁。作者扩展了See→Act浏览器代理模型,将代理视为
本文提出了一种名为PAS(Privacy Anchor Substitution)的结构化机制,用于在空间检索增强生成(RAG)系统中实现用户位置隐私保护。与传统的差分隐私方法直接扰动用户位置不同,PAS采用相对锚点编码来表示位置,该编码由