The Boy Who Cried Wolf: Adversarial Misclassification of Safe Inputs as Unsafe in Multimodal Guardrails
该论文首次系统性地研究了多模态安全护栏模型(multimodal guard models)中的一种新型对抗威胁——“不安全诱导攻击”(Unsafe Induction Attacks)。与以往关注越狱攻击(产生假阴性,即放行恶意内容)不同
今日共收录 766 条安全情报,包含 0 个 CVE,370 篇安全通告,以及 100 篇研究论文。
← 返回归档列表该论文首次系统性地研究了多模态安全护栏模型(multimodal guard models)中的一种新型对抗威胁——“不安全诱导攻击”(Unsafe Induction Attacks)。与以往关注越狱攻击(产生假阴性,即放行恶意内容)不同
该论文提出 CryptoProver,一个基于人工智能的系统,用于自动合成密码学库的内部规范,并生成经过 Verus 验证的证明。研究背景是:密码学代码是关键基础设施,必须正确无误,但现有形式化验证生产库仍然困难。已有的基于语言模型的证明系
本文针对大语言模型(LLM)代理中的“人格技能”(Persona Skills)安全性问题展开研究。人格技能将用户的个人交互历史蒸馏为可移植、可复用的执行工件,从而支持代理的个性化服务。然而,这种机制将零散的个人信号集中化,并通过多次调用放
本文针对恶意软件分类中概念漂移问题引发的挑战,研究了基于机器学习的数据漂移检测器在对抗攻击下的表现。随着恶意软件不断演化,其数据分布会随时间发生变化,导致传统恶意软件分类器性能下降。为应对这一现象,研究者提出了数据漂移检测工具,用于监控和识
本文针对远程自动代客泊车(LAVP)场景中的身份认证与通信安全问题,提出了一种名为 SecLAVP 的可证明安全的三因素认证与密钥协商协议。随着大型停车场对泊车预约需求的增长,现有方案大多只关注预约请求验证和泊车签到,而在乘客上下车(dro
近年来,针对车载控制器局域网(CAN)的网络安全攻击事件频发,但当前车载电控单元(ECU)中并未内置安全功能,因此车载控制网络迫切需要低成本且有效的安全防护手段。本文提出了一种基于硬件的方法,用于阻止CAN总线上的未授权传输。核心思路是对C
该论文研究自进化智能体(self-evolving agents)中的持久性技能后门攻击。自进化智能体能够将交互历史转化为可复用的技能,并使其在单个任务结束后持续存在。以往研究主要关注针对记忆和检索的投毒攻击,这类攻击仅在受污染记录被检索为
本文针对 Aragon、Couvreur、Dyseryn、Gaborit 和 Vincotte 在 Asiacrypt 2024 上提出的增强型 Gabidulin 矩阵码(EGMC)加密方案进行了密码分析。EGMC 旨在隐藏 Gabidu
该论文研究多头 softmax 注意力机制的可学习性问题,目标是从黑盒输入-输出访问中恢复注意力参数。学习者可以查询任意实数 token 序列,但只能观察到最后一个 token 上的标量输出。此前工作提出了一种使用 O(d^2) 次值查询恢
本文针对联邦微调中差分隐私与低秩适配(LoRA)结合时存在的聚合不匹配和二次噪声项问题,提出了一种基于Grassmann流形的几何一致聚合框架FedGSA。在联邦LoRA中,客户端本地训练低秩矩阵并加噪上传,但独立扰动和聚合两个低秩矩阵会导
随着智能设备(如智能手机和平板电脑)的普及,移动应用生态蓬勃发展,但恶意软件也日益猖獗。尽管官方应用商店要求应用在上架前通过恶意软件筛查,许多恶意应用仍能通过隐藏复杂变种绕过检测,且其恶意行为往往仅在运行时触发,传统的静态分析难以识别,导致
本研究针对语言模型代理在多步骤工作流中通过工具调用执行任务时,推理努力参数(reasoning effort)是否会影响未授权工具使用率的问题,开展了预设的等价性研究。以往研究未在单一模型内通过直接操纵该参数进行测试。作者使用GPT-5.6
本论文针对利用WiFi感知进行无接触击键推断以窃取PIN码的隐私威胁展开研究。现有方法存在两个关键瓶颈:一是通常需要获得目标网络的访问权限才能获取稳定的感知数据流,限制了实际部署;二是纯WiFi信号在快速、肌肉记忆键入时存在波形融合歧义,难
近年来,视频生成模型的快速进步显著加剧了深度伪造(deepfake)威胁,然而现有的深度伪造视频检测基准仍不成熟,特别是图像级检测器在视频域中的有效性尚未得到系统性评估。为了填补这一空白,本文提出了FakeI2V-Bench基准,专门用于在
本研究提出了一种新型的智能体型远程访问木马(Agentic RAT),其核心创新在于将小型语言模型(SLM)本地化部署于攻击端,使恶意软件能够自主完成“观察-决策-行动”闭环,而无需依赖外部操作者或云服务。研究背景在于人工智能代理技术的进步
本文研究Dolev-Yao模型中密码协议的参数化保密性验证问题。经典Dolev-Yao保密性问题询问协议是否无论执行多少次都不会泄露秘密,而参数化保密性则要求保密性在所有可能的系统规模(即参与者数量)上一致成立,其中规模被视为参数。这一视角
本文针对网络物理系统(CPS)异常检测器的评估方法提出批评与改进。当前领域普遍使用精确率、召回率或 F1 分数在单一工作点(operating point)上比较不同架构的检测器,例如深度神经网络、不变式模板等。作者指出,这些指标混淆了两个
本文提出了一种名为“最小信息泄露”(Minimal Information Disclosure, MID)的框架,用于解决AI验证过程中的隐私保护问题。AI验证通常需要验证者获取足够的信息以确认某项授权声明,但这些证据可能同时泄露关于模型
本文提出一种求解最短向量问题(SVP)的随机化算法。SVP 是格密码学中的核心困难问题,其求解复杂度直接关系到基于格的密码方案(如 NTRU、LWE)的安全性评估。此前由 Aggarwal、Dadush、Regev 和 Stephens-D
本文介绍了 Antares,一个用于智能体式漏洞定位的紧凑语言模型家族,包含 350M、1B 和 3B 三个参数规模。漏洞定位是软件安全中的基础步骤,要求模型能对大型代码库进行推理,并迭代地识别脆弱实现。Antares 基于 IBM Gra