SteerProbe: Learning to Bypass Safety Steering in Vision-Language Models
视觉语言模型(VLM)的激活引导(activation steering)是一种推理时安全防御手段:它只在中间表示层施加修正,不更新主干参数,因而部署成本低、易于叠加。论文指出了一个被忽视的评测缺口——这类防御在基准输入上表现出的保护效果,
今日共收录 1361 条安全情报,包含 499 个 CVE,489 篇安全通告,以及 100 篇研究论文。
← 返回归档列表视觉语言模型(VLM)的激活引导(activation steering)是一种推理时安全防御手段:它只在中间表示层施加修正,不更新主干参数,因而部署成本低、易于叠加。论文指出了一个被忽视的评测缺口——这类防御在基准输入上表现出的保护效果,
该论文研究量子计算中的伪随机性起源问题:简单的局部随机过程能否产生看起来高度复杂、无法与真随机区分的结果?这一问题的经典原型是 Gowers 在 1996 年提出的猜想——反复复合局部随机可逆操作,可能生成与真正随机置换不可区分的全局置换。
该论文对近期一种用于检测 sleeper agent 的响应安全评分规则做了方法论审计:该规则用响应嵌入与「已知安全响应」均值嵌入(正类质心)的余弦相似度作为安全分数。作者指出,仅凭正样本观测只能确定安全类相对编码器原点的大致位置,无法确定
该论文研究量子密钥分发(QKD)在信道噪声与设备漂移条件下的自适应窃听威胁。传统 QKD 安全性证明假设信道是平稳的,系统参数在两次校准之间保持不变;而实际设备会随时间漂移。作者提出的核心问题是:一个无法改变信道自身噪声、但能观测并跟随这种
随着量子硬件规模扩大和云访问普及,量子计算工作流暴露出新的可靠性与安全性挑战,例如云量子计算平台上的运行时故障注入攻击。然而,现有工作无法以门级精度识别脆弱点,也难以适应运行时环境。本文提出 QUFIG,将门级故障分析形式化为有限保真度预算
FPGA 比特流包含敏感配置数据,主流厂商为此引入比特流加密。但在使用最广泛的 FPGA 系列中,多起攻击已能绕过甚至完全破解烧录在器件中、无法修补的保护机制,因此业界转向可修补的加密方案。本文针对 AMD 7 系列 FPGA,给出了 AM
该论文关注联邦学习(FL)的隐私不足问题。FL 允许各客户端在不共享本地敏感数据的前提下协作训练模型,但其本身并不能充分保护训练数据,因此通常需要叠加差分隐私(DP)、同态加密(HE)等隐私增强技术。作者指出,这些技术解决的问题维度不同、机
该论文研究面向量子对手的分组密码安全性,聚焦伪随机置换(PRP)这一密码学基础原语。抗量子查询的PRP需求正在增长,被用于构造伪随机酉算子、证明SZK与BQP的分离等。构造经典安全PRP的成功框架是密钥交替Even-Mansour结构:将公
本文研究的是检索增强生成(RAG)系统中的「幻觉分流」问题:如何在成本受限的前提下,对模型生成的答案进行廉价分类路由——低风险答案直接采纳、不确定的送人工复核、只有极少数高成本样本才交给强验证器(如大型 NLI 模型)处理。作者指出,现有评
该论文研究随机预言机模型(ROM)下破解量子密码的时间-空间下界,并给出接近最优的证明。作者考虑攻击者拥有 T 次查询能力和 S 个量子比特的非均匀预处理建议(advice),针对的靶标是 n 量子比特的二进制相位态 |ψ_k⟩ ∝ Σ_x
该论文研究量子计算中一个长期存在的效率瓶颈:均匀随机 Clifford 算子的采样与实现。随机 Clifford 在量子计算中用途极广,包括随机化基准测试(randomized benchmarking)、经典阴影(classical sh
该论文研究生物特征模板保护方法 PolyProtect 应用于人脸嵌入时的不可逆性问题。PolyProtect 传统上采用主体特定密钥,即每个主体拥有自己的 C、E 变换参数;这虽然能提供不可链接性(同一身份用不同参数生成的多个受保护模板无
该论文研究量子密码学中黑盒构造的可分离性问题,聚焦于量子安全单向函数(OWF)与伪随机态(PRS)之间的关系。已有结果表明,量子安全OWF可以黑盒构造出PRS生成器;但作者构造出一类相对的量子oracle,使得相对于该oracle量子安全O
秘密共享是密码学的基础原语,在经典设定下所有访问结构都可行,门限结构甚至有高效协议。然而进入量子设定后,不可克隆定理(no-cloning)导致大量访问结构根本无法实现:对于门限,量子秘密共享(QSS)可行当且仅当门限 t 严格大于 n/2
本文研究二面体陪集问题(DCP)的量子算法能力边界。DCP 是二面体隐藏子群问题(DHSP)中尚未被量子算法高效求解的核心变体,同时也是 Regev 关于格问题/LWE 量子归约中的关键中间问题,其可解性直接关系到格基后量子密码的量子安全假
该论文是一篇立场/框架型(perspective)研究,聚焦多机构协作场景下科学人工智能的隐私问题。背景是:科学 AI——从基础模型(FM)到联邦数据分析流水线——正成为国家实验室、大学、医院与工业伙伴之间的共享基础设施。这种协作带来的隐私
论文研究神经网络作为决策问题的安全属性复杂度分类。作者指出,验证部署神经网络时会遇到验证文献未分类的决策问题:模型是否带有训练数据植入的后门、存储参数故障(比特翻转、辐射、模拟加速器)是否导致不安全状态、输出是否泄露输入隐私。作者形式化八类
该论文关注对抗样本的迁移性(transferability)问题,即在黑盒场景下,用替代(surrogate)模型生成的对抗扰动能否有效误导未见过的受害模型。作者指出,现有迁移攻击存在一个关键瓶颈:轨迹级的几何失配。基于环境空间(ambie
该论文关注嵌入式设备上后量子密码的部署效率。此前围绕 ML-KEM(Module-Lattice-Based Key-Encapsulation Mechanism,即 NIST FIPS 203 标准化算法)在 Arm Cortex-M7
差分隐私(DP)的正式隐私保证依赖噪声分布的精确采样: 若采样器实现存在偏差, 所声称的 ε/δ 保证就会失真。本文报告在 OpenDP 的离散拉普拉斯(discrete Laplace)采样器中发现系统性伪影——输出分布呈现周期性畸变,