AgentLSD: Evaluating AI Security Agents Under Adversarial Task Contamination
这篇论文研究的是 AI 安全代理在被"污染的任务证据"包围时会发生什么。背景是:用于安全工作的 AI 代理需要读取网页、源码、日志、配置文件和命令输出,而这些环境本身可能被攻击者或干扰者植入具有欺骗性的内容。作者把这种现象命名为"对抗性任务
今日共收录 1784 条安全情报,包含 814 个 CVE,581 篇安全通告,以及 100 篇研究论文。
← 返回归档列表这篇论文研究的是 AI 安全代理在被"污染的任务证据"包围时会发生什么。背景是:用于安全工作的 AI 代理需要读取网页、源码、日志、配置文件和命令输出,而这些环境本身可能被攻击者或干扰者植入具有欺骗性的内容。作者把这种现象命名为"对抗性任务
该论文聚焦智能体式人工智能(Agentic AI)的审计独立性问题。当前智能体系统能够自主规划、调用工具并在有限监督下执行动作,它们既是审计对象,也越来越频繁地充当审计者(例如自动化合规检查、采购控制、日志审查等场景中的审计代理)。作者指出
自然语言数据集被广泛用于模型训练与社会科学研究,但公开发布文本会泄漏数据源的整体统计属性(即“数据集级秘密”),例如某种性别、某种诊断或某种政治立场的记录占比。这类信息不属于任何单条记录,却可能暴露整个采集人群的敏感特征。现有研究多集中在属
该论文研究的是当「搜索者」从人类或自动化脚本变为自主 AI 代理时的跨链套利问题,属于 agentic economy 与 MEV(最大可提取价值)交叉领域。作者提出一个双向视角的建模框架:AI 代理既是套利的提取者,也可能成为 MEV 的
城市行人计数系统如今为经济指标、城市规划与公共安全运营提供数据支撑,但这些系统之上的数字孪生普遍把输入计数流当作真值处理。本文研究该假设不成立时的后果,首次为城市尺度的行人感知场景形式化定义「隐蔽式虚假数据注入」问题。与电力网络、供水网络相
局部图像水印(local watermarking)与传统的全图水印不同,它只把不可见信号嵌入到图像的特定区域内,而不是平铺到整幅图像上,因此可以从某个目标物体或指定区域中恢复出载荷(payload)并给出该区域的大致定位(localiza
该论文聚焦自动驾驶中因遮挡产生的不确定性这一基础性安全问题。作者指出,现有方法要么逐帧传播对隐藏目标的假设,要么在已给定的隐藏智能体预测之上优化自车行为,二者都未能探索“与历史观测保持一致、且对自车最不利”的隐藏交互,因而可能低估真实风险。
本文针对「智能体互联网(Internet of Agents)」这一新兴场景,系统性提出并验证了一套可扩展的信任发现架构。研究背景是:随着自主智能体数量激增,它们需要在异构平台之间互相发现、验证身份并展开协作;然而现有智能体协议(如各类工具
该论文面向 Windows PE 文件的静态恶意软件检测,指出这一任务需要在检测效果、计算效率与分析可解释性三者之间取得平衡:传统特征工程或重型模型往往精度高但开销大且难以解读,而纯黑盒深度学习模型虽精度可观却无法向分析师说明判定依据。为此
论文针对拜占庭容错的对等采样(Byzantine-tolerant peer sampling)中的标识符流偏置问题展开研究。对等采样需要持续刷新节点视图,而攻击者可通过污染用于构建视图的标识符流来引入偏置。现有的频率感知去偏方法会对出现频
当前主流安全对齐流程仅以最终答案作为评判对象,这带来两个盲区:一是模型可能对良性请求也一律拒答(过度拒答),二是模型可能给出看似合规、实则与答案脱节的“安全理由”,即所谓不忠实的解释。二者都让鲁棒拒答与取巧行为难以区分。为此作者提出 AUD
该论文研究状态对抗马尔可夫决策过程(SA-MDP),并将其建模为观测空间攻防博弈:每一步中智能体根据收到的观测选择动作,而对手知晓智能体所处的真实状态,可在依赖状态的邻近集合内选择一个扰动观测。既有研究主要聚焦马尔可夫策略,本文则针对历史依
随着 AI 编码助手被广泛用于代码生成与日常编程任务,其产出代码的安全性成为新的关注点。已有研究多集中于“能否检测出 AI 生成代码中的漏洞”,而缺少系统化的“风险有多大、如何分级”的评估视角。本文针对这一空白提出安全风险评估框架 SRF(
基于能力(capability)的架构如 CHERI 为软件组件的架构级隔离提供了强支持:能力指针同时携带边界与权限,使硬件能够阻止越权访问。然而攻击者还可利用微架构侧信道窃取机密,因此敏感代码通常需以常量时间(constant-time)
该论文针对后量子密码学(PQC)迁移这一长期战略议题,提出了一套国家层面的测量模型——就绪度-主权能力模型(Readiness-Sovereignty Capability Model, RSCM)。作者指出,现有的成熟度模型只把密码迁移能
本文针对竞技类网络游戏中普遍存在的内核级反作弊(kernel-level anti-cheat)方案提出质疑:这类方案虽然能有效抑制恶意玩家行为,但要求在以 x86 ring-0 特权模式运行的、不可验证的闭源组件中执行代码,由此带来严重的
该论文研究 Massey 秘密共享方案在多个秘密的份额之间存在线性计算关系时的泄漏风险。传统泄漏攻击利用份额的部分信息恢复秘密;在编码理论中,线性精确修复方案(LERS)允许在码率足够低时,从其余符号的少量信息恢复某个码字符号。近期有工作基
本文针对区块链文档公证在协作编辑场景下的固有局限,提出了一种名为 Fluid Notarization(流式公证)的新范式。传统区块链公证采用快照导向模型:每一次文档修订都被视为一个独立状态,通过密码学引用(如哈希锚定)记录到链上。该方式对
本文研究的是「证据加密」(witness encryption, WE) 这一密码学原语的构造问题: 它允许加密者针对某个 NP 语句生成密文, 而任何持有该语句有效 witness(证据)的人都能解密, 没有 witness 则无法区分密
该论文研究可分解随机编码(Decomposable Randomized Encoding, DRE)的规模下界问题。DRE 是一种密码学原语:给定函数 f,n 个参与方共享随机串,各自仅对自身输入做本地编码,最终编码集合只泄露 f(x1,