Oversight Has a Capacity: Calibrating Agent Guards to a Subjective, Fatiguing Human
随着LLM代理开始执行真实的、不可逆的操作(如shell命令、文件编辑、部署),标准安全模式是引入人类在环的审批门控:高风险操作暂停并等待人工批准。然而,该论文指出,门控本身是容易的,难点在于判断哪些操作需要停止——而当前领域对此的评估基于
今日共收录 1126 条安全情报,包含 321 个 CVE,413 篇安全通告,以及 105 篇研究论文。
← 返回归档列表随着LLM代理开始执行真实的、不可逆的操作(如shell命令、文件编辑、部署),标准安全模式是引入人类在环的审批门控:高风险操作暂停并等待人工批准。然而,该论文指出,门控本身是容易的,难点在于判断哪些操作需要停止——而当前领域对此的评估基于
本研究针对后量子密码学(PQC)迁移过程中代码级重构的挑战,评估了大型语言模型(LLM)在将传统密码学代码片段迁移至PQC对应实现时的能力。现有PQC迁移框架主要提供组织层面的指导,但实际代码修复仍依赖人工且易出错。为此,作者构建了一个可复
Unveiling Privacy Risks in Multi-modal Large Language Models: Task-specific Vulnerabilities and Mitigation Challenges
CVE-2025-4609
[原创]CVE-2025-4609 Incorrect handle provided in unspecified circumstances in Mojo漏洞分析
CVE-2026-23111
Security researchers have published a detailed, working exploit for a Linux kernel use-after-free that lets an unprivile
该论文是首篇系统化研究合成表格数据重构攻击(也称为属性推断攻击)的SoK论文。背景:合成数据被越来越多地作为隐私保护替代方案用于发布敏感表格数据,但其核心对抗威胁——重构攻击(即攻击者利用已知的准标识符从合成数据中恢复个体隐藏属性值)——此
本文针对现代企业API攻击面不断扩大、漏洞数量激增(2023年CVE达28,818个,同比增长38%;2024年达40,009个,再增38%)以及漏洞平均利用时间(TTE)急剧缩短(从2021年的32天降至2023年的约5天)的严峻安全态势
本文研究了Model Context Protocol (MCP) 标准化自主智能体工具调用时引入的一个被忽视的攻击面:错误处理循环。作者假设工具的错误消息具有隐含权威,会触发智能体的纠正性推理模式,从而绕过标准安全启发式。为此,他们提出了
本文继续研究一类称为“快速函数”的线性大小电路可计算的函数,这些函数共享随机函数的有用性质,但更具确定性,适合密码学应用。作者在两个主要方向上进行了推广和改进: 1. 构造了任意常数 t 的快速 t-独立哈希函数,其代数次数为 log2 t
本文针对欧盟2026年安全与可持续设计(SSbD)框架、企业可持续发展尽职调查指令(CSDDD)以及碳边境调节机制(CBAM)对先进半导体制造设施(“智能工厂”)带来的严峻治理瓶颈,提出了一种零信任社会技术编排框架。该框架在可信工业数据空间
该论文研究了现代DRAM芯片中的读取干扰现象(如RowHammer和RowPress),即频繁访问或持续打开一个DRAM行(攻击行)会导致其物理邻近的未被访问行(受害行)发生比特翻转。这种干扰机制可从软件栈层面被实际利用,并随着密度缩放而加
本文针对AI中介的信息操纵问题,提出了一种基于信息操纵集(IMS)的社会媒体情报(SOCMINT)框架。研究背景指出,AI驱动的信息操纵日益表现为社交网络攻击,旨在破坏信任、注意力、可信度、声誉和决策过程,而非仅仅攻击技术基础设施或散布孤立
该论文提出了一个临床背景下的隐私评估框架,用于系统地评估医疗语言模型在不同攻击者访问权限下的信息泄漏风险。研究背景是医疗语言模型可能记忆并再现受保护的健康信息,但以往的隐私评估往往侧重于训练文本的恢复,而忽略了现实威胁模型下的披露。作者将攻
离线安全强化学习(Safe RL)能够在无在线交互的情况下学习策略,适用于机器人等安全关键系统。然而,其对静态数据集的依赖使其面临数据投毒攻击的风险:攻击者注入恶意样本,破坏安全约束并诱导不安全策略。现有防御方法通常需要完全重训练或访问原始
本文提出一种新型的联邦学习后门攻击方法,利用硬件故障(比特翻转)实现模型中毒。在联邦模型适配场景中,攻击者通过注入少量比特翻转(在局部模型参数中)即可植入后门,且该后门与任务无关。攻击分为离线阶段和在线阶段:离线阶段从预训练模型出发,通过分
本文针对差分隐私(DP)的洗牌模型(shuffle model)中存在的合谋攻击问题,提出了一种基于可信执行环境(TEE)的增强洗牌模型。现有大多数洗牌协议容易受到数据收集者和用户的合谋攻击,为此研究者引入了增强洗牌模型,通过随机采样和添加
该论文聚焦于脑电图(EEG)基础模型在发布时的安全审计问题。传统的单端点审计(如原始波形重建、成员推断、身份链接或下游头上的差分隐私DP-SGD)逐一检查模型,但可能遗漏跨编码器的属性泄露。作者提出一种联合审计方法,在三个主流EEG基础模型
本文首次系统性地研究了文本到图像(T2I)生态系统中LoRA插件的供应链安全风险。随着T2I模型的普及,基于低秩适配(LoRA)的插件市场(如Civitai、Liblib)蓬勃发展,用户可以通过共享插件轻松定制模型能力。然而,这种民主化带来
本文提出了一种针对检索增强生成(RAG)系统的间接提示攻击新范式——文档作者控制信号冒充(DACSI)。在RAG系统中,用户查询、检索文档、元数据、系统标签和任务指令通常被序列化为一个自然语言提示。研究发现这种设计存在源-权威边界缺陷:攻击
该论文研究了结构化网络威胁情报(CTI)在对手模拟、检测评估和网络靶场设计中的应用中面临的环境语义差距问题。具体而言,论文测量了从MITRE ATT&CK结构化威胁信息表达(STIX)捆绑包中能够推导出目标被测系统(SUT)环境的程度。研究