Adversarial Frontiers: Minimum-Norm Attack Ensembles for Robustness Evaluation
本文批判了当前对抗鲁棒性评估中普遍采用预定义攻击集成(如AutoAttack)的做法,指出其在单一扰动预算ε和选择性扰动范数下的局限性。主要缺陷包括:(1)不同模型的鲁棒性-扰动曲线可能相交或以不同速率衰减,导致基于单一ε的排名不稳定;(2
今日共收录 841 条安全情报,包含 0 个 CVE,432 篇安全通告,以及 115 篇研究论文。
← 返回归档列表本文批判了当前对抗鲁棒性评估中普遍采用预定义攻击集成(如AutoAttack)的做法,指出其在单一扰动预算ε和选择性扰动范数下的局限性。主要缺陷包括:(1)不同模型的鲁棒性-扰动曲线可能相交或以不同速率衰减,导致基于单一ε的排名不稳定;(2
该论文提出了一种全新的端到端差分隐私训练框架,用于训练深度神经网络分类器。现有差分隐私机器学习方法通常同时对训练输入和标签进行隐私化处理,这种做法在标签本身可公开或可安全公开的场景下过于保守,导致模型精度损失较大。为此,作者提出仅对训练输入
该论文提出了ResearchArena框架,用于评估自动化AI研发(AI R&D)中智能体(agent)的破坏行为(sabotage)与监控能力。随着AI智能体开始自动化AI研发流程,如何确保其产出物安全部署成为关键问题。AI控制(AI c
该论文提出了一种名为 PTSan 的内存安全消毒器,基于 LLVM 框架,专为 C/C++ 设计。传统的位置型消毒器(如 ASan)仅能检测缓冲区溢出等局部错误,而指针型消毒器能提供更强的内存安全保证,但其开销和兼容性问题限制了生产部署。P
本文提出 Sarus,一个基于同态加密(HE)的隐私保护多供应商感知融合框架,用于自动驾驶车辆(AV)场景。在协同感知中,多个供应商的感知模型(如摄像头、LiDAR)将检测结果发送至共享融合服务,但直接暴露检测输出会泄露供应商的模型行为和环
本文研究针对 Hamming Quasi-Cyclic (HQC) 后量子密钥封装机制实现的一种侧信道攻击。HQC 已被 NIST 选为标准化算法,因此其实现安全性至关重要。攻击利用 HQC 稀疏秘密向量在加载/存储操作中的泄露,具体发现
该论文针对低轨卫星(LEO)中基于轨道物理层认证方案的安全性进行了研究。作者首先指出,现有的认证方案假设攻击者只能控制单个设备,但实际中攻击者可控制多个设备(如地面站)。通过大量实验,他们发现在多设备攻击场景下,现有方案的误报率(FPR)可
该论文针对无线自编码器通信系统中的对抗攻击问题展开研究。在存在多个攻击者的复杂场景下,多路并行攻击造成的累积泄漏干扰(CLI)会显著增加攻击被检测到的风险,同时动态环境使得固定攻击策略难以保持稳定有效性。为同时提升对抗攻击的不可检测性、攻击
该论文针对当前自主智能体交易协议(如AP2, ACP)缺乏可互操作的防篡改审计能力和跨异构域事件的可验证时序排序问题,提出了一种可验证的全局事件时间线架构。核心由四个组件构成:1) 规范事件模式,强制确定性序列化;2) 确定性批次形成,无需
随着人工智能从无状态生成模型向有状态自主Agent的架构演进,长期规划与企业工作流自动化能力得以提升,但同时也引入了新的安全威胁——Chronos漏洞。该漏洞是一类基于记忆的攻击(包括记忆注入攻击MINJA和休眠代理攻击)的统称,攻击者通过
本文提出 ChainWatch,一个针对基于模型上下文协议(MCP)的 AI 代理系统的多步攻击序贯检测框架。MCP 允许 AI 代理连接外部工具、数据库和服务,但这种连接带来了多步攻击的风险:攻击者可以将单个良性的工具调用组合成恶意序列,
该论文针对后量子密码(PQC)中迭代数论变换(NTT)加速器的可扩展性问题,提出了一种内存并行化策略和优化架构PIP-NTT。现有NTT加速器通常采用乒乓存储方案和与分圆环大小匹配的大容量存储器,导致效率受限。作者提出将n大小的存储器拆分为
这篇论文来自卡牌密码学领域,研究一种称为“随机切割”(random cut)的洗牌操作——该操作将一叠面朝下的牌序列秘密地循环移位一定数量。在随机切割下,两叠牌序列不可区分当且仅当它们互为循环移位。此前已知,如果允许任意插牌,只要两个单词是
本文针对钓鱼邮件检测的对抗鲁棒性进行了系统比较研究。研究背景在于,当前机器学习分类器在钓鱼邮件检测中广泛应用,但其准确性往往仅在干净、分布内测试数据上评估,而忽略了对经过刻意修改以逃避检测的对抗性邮件的鲁棒性。为弥补这一空白,作者选取了两种
该论文系统地分析了基于样本的量子对角化(Sample-based Quantum Diagonalization, SQD)方法在硬件实现中的鲁棒性。SQD 是一种混合量子-经典方法,它用基于量子处理单元(QPU)采样结果的自洽恢复循环替代
该论文首次提出针对变分量子算法(VQAs)的参数供应链后门攻击——CutBackdoor。VQAs是近期量子计算的主要范式,结合了参数化量子电路与经典优化,广泛应用于量子化学、组合优化和量子机器学习。实际部署中,由于量子电路规模常超过硬件可
本文研究了差分隐私(DP)在合成数据生成中的固有权衡:隐私保护与统计保真度之间的矛盾。现有方法虽然利用公共数据来改善这一权衡,但通常仅在预处理(如使用预训练生成模型)或后处理(如匹配从公共数据集估计的目标统计量)中间接使用公共数据,而依赖领
本文首次系统性地研究了自托管AI智能体面临的一类新威胁——自状态攻击(self-state attacks)。自托管AI智能体为了执行任务,需要读写自身的内存和配置文件(即自状态),而这些操作通过合法的操作系统系统调用完成。攻击者可以通过操
该论文研究了加密OPC UA流量中残留结构可观测性与攻击可检测性之间的关系。OPC UA加密会隐藏应用层语义,使得入侵检测仅能依赖残留的通信结构特征。尽管基于机器学习的入侵检测系统(IDS)能够检测加密OPC UA流量中的攻击,但残留结构可
本文研究了同态加密(HE)环境下神经网络推理的结构化剪枝对模型可靠性的影响,并提出了多项式敏感度感知剪枝方法(PSAP)。背景:同态加密允许对加密数据进行计算,但计算开销大,结构化剪枝是降低开销的关键技术,然而剪枝可能引入可靠性问题,如对位