#data-free

共收录 3 条相关安全情报。

← 返回所有主题
推荐 9.6
Conf: 50%
👥 作者: Yijie Bai, Zhongming Ma, Yanjiao Chen, Jiangyi Deng, Shengyuan Pang, Yan Liu 0069, Wenyuan Xu 0001

本文提出了一种名为 Alchemy 的无数据对抗训练框架,旨在解决实际场景中模型鲁棒性提升面临的训练数据不可得问题。传统对抗训练方法通常依赖原始训练数据来生成对抗样本并增强模型鲁棒性,但随着开源模型平台和商业模型的普及,用户往往只能获得模型权重,而原始数据集因商业利益或隐私原因并未公开。在此背景下,现有对抗训练方法无法直接应用。Alchemy 是首个无数据对抗训练框架,它不需要原始训练数据,而是通过重构具有鲁棒特征的高质量训练数据,同时提升模型对不可访问原始数据集的对抗鲁棒性,兼顾准确率保持与鲁棒性提升。作者针对两个核心挑战展开:一是如何在无数据条件下生成能够反映原始数据分布的训练样本,二是如何利用这些合成样本有效提高模型在未知攻击下的鲁棒性。实验覆盖四个数据集,并与五种基线方法对比,结果表明 Alchemy 在多数攻击场景下能够显著提升平均鲁棒性,且性能优于现有方法。此外,作者还评估了框架在不同设置下的稳定性,并讨论了未来研究方向。该工作为模型发布者和使用者提供了一种无需数据即可增强模型安全性的新思路,特别适用于模型迁移、安全微调等场景。

💡 推荐理由: 实际中用户常只能拿到模型权重而无法获得原始训练数据,Alchemy 首次实现无数据对抗训练,为模型鲁棒性增强提供了可行方案,对蓝队防御对抗攻击具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Chong Fu 0002, Xuhong Zhang 0002, Shouling Ji, Ting Wang 0006, Peng Lin, Yanghe Feng, Jianwei Yin

本文针对深度神经网络中的木马(后门)攻击检测问题提出了一种新的无数据方法 FreeEagle。后门攻击是一种典型的人工智能威胁,被植入木马的模型在遇到带触发器的输入时会产生攻击者指定的异常行为,而在干净输入下表现正常。现有的后门检测方法大多依赖防御者能够获得一批干净验证样本或带有触发器的样本,但这一假设在真实世界中可能不成立,例如模型共享平台的维护者只能获得模型本身而无法获得训练数据或触发样本。为此,作者首次提出了无需依赖任何干净样本或带触发样本的 FreeEagle 方法,实现了对复杂后门攻击的有效检测。该方法通过分析模型内部表征和决策边界的异常特征,在数据不可见的情况下识别后门植入的痕迹。在多种数据集和模型架构上的评估结果表明,FreeEagle 对各类复杂后门攻击均有效,甚至在部分场景下优于现有的非无数据后门检测方法。该研究的核心贡献在于突破了传统检测方法对验证数据的依赖,为模型供应链安全提供了新的技术路径,尤其适用于模型共享、第三方模型审核等场景。本文适合研究深度学习安全、模型后门检测以及AI供应链安全的从业者和学者阅读。

💡 推荐理由: 模型共享平台和第三方模型审核往往无法获得训练数据或触发样本,FreeEagle 提供了无需任何样本的后门检测能力,极大提升了实际防御场景的可行性,对AI供应链安全具有重要意义。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Yinbo Yu, Xueyu Yin, Jing Fang, Chunwei Tian, Qi Zhu, Jiajia Liu, Daoqiang Zhang

深度神经网络(DNN)仍然容易受到后门攻击,现有后门检测方法通常需要干净数据、代理数据、梯度或迭代触发器重建,导致计算成本高且在实际模型审计场景中鲁棒性有限。本文提出HTell,一种快速、轻量级且无需数据的后门检测方法,基于头部随机探针技术。HTell的核心洞察是:后门模型在随机潜在探针下,预测头部的目标类别上往往表现出异常高的响应集中度。该方法首先生成架构感知的随机潜在探针,直接馈入模型头部,然后通过分析类别级响应统计量来检测后门,无需访问真实/代理数据、模型梯度或参数优化。在包含超过6000个后门模型和700多个干净模型的大规模基准上进行评估,覆盖4个数据集、14种架构和21种后门攻击类型。HTell实现了99.03%的真阳性率和2.11%的假阳性率,每模型检测延迟仅为12.69毫秒,相比基于梯度的代表性检测器时间成本降低超过30,000倍。结果表明,头部随机探针为大规模无数据后门模型审计提供了准确、鲁棒且高效的解决方案。

💡 推荐理由: HTell实现了无需数据、快速且高精度的后门检测,大幅降低了模型审计的计算门槛,适合安全团队在本地或云端大规模部署前对第三方模型进行黑盒筛查。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)