Constructive Noise Defeats Adversarial Noise: Adversarial Example Detection for Commercial DNN Services.
本文针对商用深度学习服务中的对抗样本检测问题，提出了一种名为“建设性噪声”的新型防御方法。该方法通过向输入数据添加精心设计的噪声，使得正常样本和对抗样本在模型内部表示上产生可区分的差异，从而有效检测出对抗扰动。核心思路是利用噪声的构造性来对
#deep-learning
共收录 86 条相关情报。
← 返回所有主题Detecting Adversarial Data via Provable Adversarial Noise Amplification
本文研究了深度神经网络中对抗性噪声在不同层间的非均匀传播现象，并首次从理论上给出了形式化的对抗噪声放大定理。作者推导出一组充分条件，保证对抗噪声在特定层或特征空间中以可预测的方式放大，从而为对抗样本检测提供了坚实的数学基础。基于理论分析，他
Machine Unlearning for Class Removal through SISA-based Deep Neural Network Architectures
该论文研究了机器遗忘（Machine Unlearning）领域中的类别级遗忘问题，提出了一种基于 SISA（Sharded, Isolated, Sliced, and Aggregated）框架的改进方案，用于卷积神经网络（CNN）架构
eDySec: A Deep Learning-based Explainable Dynamic Analysis Framework for Detecting Malicious Packages in PyPI Ecosystem
eDySec 是一个基于深度学习的动态行为分析框架，旨在检测 PyPI 生态系统中的恶意包。随着下一代软件供应链攻击（如多阶段恶意软件执行、远程访问激活和动态载荷生成）的兴起，传统机器学习检测器因动态行为数据的高维稀疏性（包括系统调用、网络
Profiling Resilient to Change in Probe Position
本文聚焦于侧信道分析（SCA）中的电磁（EM）探针位置鲁棒性问题。传统的SCA通过采集加密操作中的物理泄漏（如电磁辐射）来破解加密算法。在评估芯片的电磁泄漏时，通常需要将探针放置在芯片上方的有利位置，但现有的研究大多集中在热点发现和重定位上
Mitigating Error Amplification in Fast Adversarial Training
本文针对快速对抗训练（FAT）中存在的两个核心问题展开研究：（1）灾难性过拟合（CO），即模型过度拟合训练时使用的对抗样本，导致对未见攻击泛化能力差；（2）鲁棒性与准确率之间的权衡，即在提高鲁棒性的同时往往导致干净样本上的性能显著下降，且随