Amnesia: A Stealthy Replay Attack on Continual Learning Dreams
持续学习模型常使用经验重放来缓解灾难性遗忘,但重放采样干扰的鲁棒性研究不足。现有攻击修改输入或训练流程(投毒/后门),且很少包含显式的可审计约束,限制了现实性。本文研究具有有限权限的内部攻击者,只能控制重放索引选择(不能修改像素、标签或模型
今日共收录 1106 条安全情报,包含 305 个 CVE,402 篇安全通告,以及 120 篇研究论文。
← 返回归档列表持续学习模型常使用经验重放来缓解灾难性遗忘,但重放采样干扰的鲁棒性研究不足。现有攻击修改输入或训练流程(投毒/后门),且很少包含显式的可审计约束,限制了现实性。本文研究具有有限权限的内部攻击者,只能控制重放索引选择(不能修改像素、标签或模型
本文研究了视觉-语言智能体系统(VLAS)中的后门攻击新问题——触发泄露(Trigger Leakage)。VLAS将视觉感知与规划、工具使用及物理动作连接起来,使得后门触发器不仅影响决策流程,还能通过接口传播,构成系统级威胁。现有评估仅关
本文提出 MARCIM-WG,一个面向海上网络防御的学习型网络战争游戏。随着海上作战越来越依赖互联的数字生态系统,网络事件可能在海事网络中传播并降低关键服务的可用性。为了提升战略网络态势感知能力,决策者需要接受训练,以应对动态攻击、资源约束
该论文提出SCP(安全且一致的缓存分区)方法,旨在解决缓存分区技术在共享操作系统环境中因写共享缓存一致性协议导致的安全缺陷。传统严格分区技术无法支持写共享一致性,而SCP通过仅分区标签、共享单一数据池,并合理调整数据池大小以避免容量驱动的跨
本论文研究强化学习(RL)训练对基于梯度的对抗攻击的防御效果。传统的梯度攻击(如PGD)利用模型梯度信息高效生成对抗样本,对深度神经网络构成严重威胁。作者提出使用策略梯度和ε-贪婪探索训练图像分类器,并在CIFAR-10、CIFAR-100
本文针对智慧城市网络安全研究中高质量数据集稀缺的问题,提出了一种基于AI的合成数据生成(SDG)框架。智慧城市依赖于集成了传感器、物联网设备、云平台和AI驱动服务的网络物理系统,这些系统虽然提升了城市服务效率,但也因巨大的攻击面、异构数据流
模型合并(Model Merging)是一种低成本整合多个任务特定模型的方法,但近期研究表明它对后门攻击高度敏感。现有的基于任务算术的防御方法由于直接编辑参数空间,往往在消除后门的同时严重损害干净任务性能。为了解决这一问题,本文提出了一种名
该论文针对基于机器学习的网络入侵检测系统(NIDS)在对抗攻击下的鲁棒性进行系统性评估。尽管已有研究指出ML模型易受对抗性样本影响,但缺乏在控制条件下跨架构、跨攻击类别的公平比较,导致安全从业者难以选择可靠模型。本文采用ACI-IoT-20
该论文通过实证实验探究了C和C++语言中未定义行为(undefined behavior)在典型桌面使用环境下的普遍性。未定义行为是使用错误程序构造时语言不施加任何要求的行为,例如整数溢出。研究使用Linux发行版(Fedora)中的未定义
本文提出 InjectV,一个针对 RISC-V 平台的故障注入攻击建模框架,基于 gem5 模拟器实现。该框架旨在解决硬件安全评估中物理故障注入实验成本高、复杂度大、可用性有限等问题,特别是在硅前开发阶段。InjectV 提供了开发者导向
本文提出了一种针对部署中安全分类器的在线分布漂移监测系统。该系统利用校准的顺序统计量来检测分类器是否已移出分布范围。一旦检测到漂移,系统会通过一个共形拒绝层调整决策阈值,以恢复目标错误率 epsilon=0.1。在预注册的析因评估中(4个分
本文针对远程身份验证系统中身份证图像质量评估的挑战,提出应用来自开放人脸图像质量(OFIQ)标准的采集相关质量度量到身份证图像上。预处理流程包括角点检测、透视归一化和全面的前景掩膜,以确保质量度量的准确和无偏计算。作者通过分析这些度量与三种
本文针对音频水印技术在面对语音重建模型(如基于神经网络的编解码器)时的鲁棒性问题展开研究。现有方法通常采用高保真、低能量的设计来保持感知质量,但这类水印在语音重建模型的抑制下容易失效。提高水印能量虽能增强鲁棒性,却会降低不可感知性,形成鲁棒
本文提出Jaguar系统,旨在加速基于混合同态加密(HE)与两方安全计算(2PC)的私有卷积神经网络推理。现有混合方案的主要瓶颈来自两点:一是卷积层中基于素数模数的同态算术,二是精度流中需要在双倍位宽下执行ReLU后再调用单独的截断协议。J
该论文针对可信人工智能中的数据汇总环节提出了一种对抗性攻击与防御方法。数据汇总作为上游组件,负责决定哪些信息被保留并传递给后续的学习或决策模块。攻击者可以通过相似性级别的扰动来破坏汇总过程,从而改变所选摘要、降低代表性,并进一步损害下游任务
随着消费物联网设备的快速增长,针对AI赋能的网络威胁的可靠异常检测面临着实时性、隐私保护和可扩展性的挑战。传统的集中式策略在分布式消费数据处理中存在通信瓶颈、单点故障和隐私漏洞。本文提出SwarmSense-DNN,一种新颖的去中心化神经网
该论文针对区块链状态承诺中认证数据结构的性能与安全性问题展开研究。当前以太坊采用的标准数据结构 Merkle Patricia Trie (MPT) 存在两大缺陷:一是树高度随数据量增长而急剧增加,导致状态根计算耗时占区块处理时间的78%;
本文针对智能体基础设施中出现的控制平面授权问题,提出了一种名为“主权保证边界”(Sovereign Assurance Boundary, SAB)的架构。在传统身份与访问管理(IAM)、策略引擎、共识协议和审计日志等机制无法有效应对非确定
本文提出一种名为 Adv-TGD 的生成式对抗攻击框架,旨在通过文本引导的扩散模型合成能够冒充目标身份的照片级人脸图像,从而欺骗人脸识别系统。该框架基于 Stable Diffusion,对每个源-目标身份对执行单样本 LoRA 微调,利用
该论文提出并形式化了量子算法中的“超空间集中度”(superspace concentration)这一量子资源概念,通过焦点度量 F(ρ) = λ_max(ρ_super)(约化超空间状态的最大本征值)量化量子系统将信息权重集中到扩展自由