SafeEvolve: Harness-Policy Co-Evolution from Agent Experience for Safety Alignment
该论文提出 SafeEvolve,一种面向 LLM 智能体(agent)安全对齐的“经验驱动自进化”框架。研究背景是:基于 LLM 的智能体在完成任务时,其行为由基础模型与交互环境所用的“harness”(即外部工具/提示/技能编排层)共同
今日共收录 918 条安全情报,包含 147 个 CVE,434 篇安全通告,以及 81 篇研究论文。
← 返回归档列表该论文提出 SafeEvolve,一种面向 LLM 智能体(agent)安全对齐的“经验驱动自进化”框架。研究背景是:基于 LLM 的智能体在完成任务时,其行为由基础模型与交互环境所用的“harness”(即外部工具/提示/技能编排层)共同
本文针对远程模型上下文协议(MCP)服务中,大型语言模型(LLM)智能体调用外部工具时的信任缺口问题展开研究。传统上,服务依赖 OAuth 授权来允许智能体调用工具,但 OAuth 仅完成身份与授权层面验证,无法保证后续工具调用确实由依赖方
这篇论文提出了一种利用大型语言模型(LLM)自动向 Solidity 智能合约中注入漏洞的方法,旨在解决智能合约漏洞检测工具评估中“带真实标签数据集稀缺且人工构建困难”的问题。作者以 OpenSCV 分类中的 49 种漏洞类型为目标,对来自
该论文研究可复用智能体技能(agentic skills)带来的供应链安全风险。可复用技能为LLM智能体提供任务流程、工具使用指导和输出约束,但它们本质上是外部化的行为策略。论文提出一种名为SkillShift的黑盒攻击框架,能够在保持技能
本文针对大型语言模型(LLM)在再分发、适配和透明API服务场景下所有权难以验证的问题。由于模型可能被微调、量化或通过黑盒API提供服务,传统的基于内部权重或部署记录的验证方式不再可靠,因此需要一种可通过黑盒交互观察的行为签名。现有黑盒指纹
本文提出 SpiderSapien,一个以客户端为中心的 Web 应用爬虫与安全扫描器,旨在解决现代 Web 应用在客户端侧高度动态和交互性强、导致现有黑盒扫描器无法深入探索深层状态的问题。作者指出,沉浸式交互(immersive inte
该论文研究的是针对生成式搜索引擎的恶意生成式引擎优化(GEO)攻击的防御问题。GEO 攻击通过改写网页文档来迎合搜索引擎的引用偏好,从而操纵生成式搜索引擎在回答中优先引用或放大特定目标文档。近期的 GEO 方法已从手工改写演变为自动化、智能
大型语言模型(LLM)的广泛应用带来了生成内容溯源与合规治理的需求。多比特水印技术通过将用户可追踪的身份信息嵌入模型输出文本,能够实现内容来源的精细化追溯。然而,现有方案普遍面临提取准确率、文本质量与载荷容量三者之间的根本性权衡。本文提出一
[分享]InstallShield 2026 R1 Premier破解补丁
CVE-2026-59346
Broadcom has released security updates for two security flaws impacting VMware Workstation and Fusion, including one cri
CVE-2026-82078 · CVE-2026-81578
Threat actors are exploiting the newly disclosed PaperCut flaws to facilitate credential theft in attacks targeting the
CVE-2026-32475
Tracked as CVE-2026-32475 (CVSS score of 9.8), the bug described as an arbitrary file upload issue in the function that
本文对 FIDO2/WebAuthn 威胁模型进行了批判性重新评估。FIDO2 作为抗钓鱼认证方案已被广泛部署,其安全性通常被认为由设计保证,只要密码学实现正确。然而,作者指出在现实部署条件下,若干常见的安全假设并不成立。他们将威胁模型扩展
该论文提出了一种面向实际部署的黑盒后门防御方法 TRIM(Trigger Removal by Identifying Manipulated Regions),用于在推理阶段检测并选择性清除深度神经网络图像分类模型中的后门触发器。后门攻击
该论文提出了一种针对生成式语音模型的鲁棒音频水印框架 CRAW(Codec Robust Audio Watermarking)。研究背景是:近年来生成式语音模型(如语音克隆、语音合成)的进步使得真实与合成语音难以区分,增加了欺诈和虚假信息
该论文提出一种基于贝叶斯博弈论的内部威胁早期检测机制。研究者将内部威胁检测建模为动态贝叶斯博弈,其中平台协调一个由多个战略认证者组成的委员会,在诚实用户之间维持均衡,并在数据外泄之前检测恶意偏离行为。认证者与用户在一个称为贝叶斯时间相关均衡
论文《NACRE: Rethinking Confidential Containers through Native Architectural Support》针对Linux容器在共享主机内核设计下的安全缺陷展开研究。传统容器依赖主机内
第三方检索增强生成(RAG)市场带来了新的审计问题:数据提供商将语料库授权给RAG运营商后,无法得知其文档是否被未经补偿地重复使用。由于运营商不合作、生成器会改写答案、且单次响应可能结合多个提供商的证据,审计尤为困难。为此,论文提出DirB
差分隐私(Differential Privacy)为数据分析提供严格的隐私保证,但在回答大量线性查询时,必须在隐私预算、响应精度和随机位数之间权衡。经典机制(如 Hardt 与 Talwar 提出的 K-范数机制)虽能在给定隐私预算 ε
该论文聚焦于基于机器学习的入侵检测系统(ML-based IDS)在实际部署中的有效性问题,指出当前研究普遍存在一种“模型效能幻觉(illusion of model efficacy)”:即通过改进算法、优化检测率、降低误报率等手段,在特