(A)iSpy: Parasitic Trojans for Machine Learning Infrastructure
这篇论文揭示了一个严重的ML基础设施安全盲区:现有的ML管道安全实践主要聚焦于审计数据、模型工件或依赖文件完整性校验,但执行环境(运行时库、硬件加速层)通常被隐式信任。作者提出了一种名为(A)iSpy的寄生式基础设施木马,它通过主动观察和执
今日共收录 2277 条安全情报,包含 1464 个 CVE,419 篇安全通告,以及 96 篇研究论文。
← 返回归档列表这篇论文揭示了一个严重的ML基础设施安全盲区:现有的ML管道安全实践主要聚焦于审计数据、模型工件或依赖文件完整性校验,但执行环境(运行时库、硬件加速层)通常被隐式信任。作者提出了一种名为(A)iSpy的寄生式基础设施木马,它通过主动观察和执
本文提出 ResearchArena,一个用于评估自动化 AI 研发中 AI 控制(AI control)方法的框架。随着 AI 代理开始自动化 AI 研发流程,我们需要评估其输出是否安全可部署,即使代理本身可能不可信。AI 控制将代理视为
该论文系统化地研究了变分量子本征求解器(VQE)的对抗鲁棒性问题。VQE是近期量子硬件上估计分子基态能量的领先算法,广泛应用于量子化学、材料科学和药物发现。随着VQE工作负载通过云端的“VQE即服务”管道部署,它面临来自受损服务组件、恶意共
本文提出 PTSan,一种基于 LLVM 的内存安全 sanitizer,旨在为 C/C++ 提供实用的指针对象(pointer-object)权威性检查。传统位置型 sanitizer(如 ASan)检测能力有限,而指针型 sanitiz
该论文提出了 Sarus,一个基于同态加密(HE)的隐私保护多供应商感知融合框架,旨在解决自动驾驶车辆(AV)在合作感知中共享检测输出时面临的隐私和安全问题。在典型的多供应商部署场景中,各供应商(如摄像头、LiDAR 检测模型)将检测结果发
该论文研究了一种针对 Hamming Quasi-Cyclic (HQC) 密钥封装机制的侧信道攻击。HQC 是基于编码的候选标准化算法,已被 NIST 选中,因此其实现安全性至关重要。攻击者利用 HQC 稀疏秘密向量在加载/存储操作中的泄
该论文针对低地球轨道(LEO)卫星的物理层安全认证问题展开研究。现有的基于轨道特征的认证方案容易受到控制多个设备的攻击者的欺骗,实验表明攻击者可导致高达40%的误报率(FPR)。作者通过根因分析发现,攻击者利用多个设备模拟合法卫星的轨道特征
本文提出了一种名为GLID(门控局部固有维度)的面部伪造检测方法,旨在解决当前基于微调基础模型的检测器在面对训练中未出现的生成器家族时性能急剧下降的“盲点”问题。GLID的核心创新在于利用几何信号而非数据来提升泛化能力。具体而言,它从单张图
该论文针对后量子密码(PQC)中关键的迭代数论变换(NTT)硬件加速问题,提出了一种名为PIP-NTT的可扩展内存并行加速器。传统NTT加速器通常采用乒乓存储结构和与大环尺寸匹配的大内存块,导致效率受限。为克服这一瓶颈,作者提出了一种内存并
本文研究卡牌密码学中一种基础洗牌操作——随机剪切(random cut)下的可区分性问题。随机剪切将一叠面朝下的牌循环移位一个秘密量。在此操作下,两叠牌不可区分当且仅当它们是彼此的循环移位。本文关注在二进制卡片(仅携带0或1)的严格限制下,
该论文针对钓鱼邮件检测中机器学习模型的对抗鲁棒性进行了系统性比较研究。作者指出,目前大多数检测准确率报告仅基于干净、分布内测试数据,而未考虑攻击者可能故意篡改邮件以逃避检测。为此,论文选取了两个代表性方法:传统的TF-IDF + 逻辑回归基
本文系统分析了基于采样的量子对角化(Sample-based Quantum Diagonalization, SQD)方法在不同硬件部署条件下的鲁棒性。SQD 是一种混合量子-经典方法,通过自洽恢复循环替代传统变分优化,利用 QPU 采样
该论文聚焦于差分隐私(DP)在合成数据生成中隐私与统计保真度的权衡问题。现有方法通常间接利用公开数据,例如通过预训练生成模型或匹配公共数据集估计的目标统计量,并依赖领域无关的DP机制。本文开创性地提出将公开数据直接融入DP机制本身的理论框架
该论文首次系统性地研究了自托管AI代理(self-hosted AI agents)面临的一类新型威胁——自我状态攻击(self-state attacks)。自托管AI代理为了正常运行,需要读写自身的内存和配置文件,即其“自我状态”。攻击
本文针对加密流量侧信道防御中广泛存在的参数选择依赖经验调优的问题,提出了一个可证明、可计算的理论基线。作者将语义标签序列 X^n 视为信源,防御后的特征序列 Y^n 视为观测,以 Wasserstein-1 距离作为防御成本,在平稳无记忆防
本文研究了加密OPC UA通信中残余可观测性与攻击可检测性之间的关系。OPC UA加密隐藏了应用层语义,使得入侵检测只能依赖残余的通信结构特征。尽管基于机器学习的入侵检测系统能够检测加密OPC UA流量中的攻击,但残余结构可观测性与攻击可检
对抗性鲁棒性优化旨在保持模型在对抗扰动下的正确预测,已通过对抗训练和对抗净化等方法取得显著鲁棒性提升。然而,本文识别出一种新的安全风险:这些鲁棒性增益可能在多个防御之间创建共享漏洞,一旦其中一个代表性防御被有效攻破,整个防御家族都可能暴露。
传统时间锁谜题(Time-Lock Puzzles)通过要求求解者执行固定数量的顺序计算步骤来强制延迟解密,但其安全性依赖于计算步骤的不可加速性。然而,软件实现的方案在物理层面无法约束单个步骤的执行速度,因此容易受到硬件加速、算法优化或实现
该论文研究了区块链链下数据存储场景中的加密审计调度问题。由于链下存储节点可能存在隐藏类型(如诚实或恶意)以及腐败状态,且审计资源有限,因此需要自适应地安排审计频率以平衡安全性与成本。作者将问题建模为部分可观测约束马尔可夫决策过程(POMDP
本文提出了一种针对文本到视频(T2V)生成模型的新型越狱攻击框架BSB(Between Safe Boundaries)。现有从文本到图像攻击迁移而来的方法未能充分利用视频生成中固有的时间一致性特性,且需要大量视频查询优化,在实际黑盒场景中