#adversarial-perturbation

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Bacui Li, Chandra Thapa, Tansu Alpcan, Udaya Parampalli

该论文研究了量子分类器在对抗性扰动下的安全性问题,特别关注基于梯度的测试时攻击在量子场景下的实际成本。传统上,攻击者可以通过自动微分廉价获取梯度(便宜梯度原理),但在变分量子分类器中,由于量子测量存在有限统计噪声(shot noise),每个梯度分量必须通过重复执行量子电路来估算,导致攻击者需要消耗与输入维度相关的测量预算。理论分析表明,在无偏梯度估计规则下,单步攻击至少需要与输入维度d的平方成正比的测量次数(具体为d^{5/2}量级),而迭代攻击的成本更高。仿真实验在高达784维的输入上验证了这一规律:对于缓解了贫瘠高原效应的模型,实际总测量次数遵循d^{5/2}几何下限;对于深度电路(未缓解贫瘠高原),梯度范数随维度衰减,但考虑测量梯度范数后,恢复出d^{3/2}的shot噪声几何。与经典基线(其攻击开销与维度无关)相比,量子梯度成本比随维度增长为d^{3.00},因此攻击者的相对成本随模型规模发散。在IBM量子处理器(ibm_boston,4量子比特电路,d=12)上的实验复现了这一效应:在匹配预算下,设备上的攻击结果与理想模拟相差仅几个百分点,高测量次数的梯度忠实于精确梯度。该防御机制仅在正向映射经典难以模拟时有效,此时白盒攻击者无法利用“模拟并反向传播”的捷径,必须支付论文所量化的测量成本。适合对量子机器学习安全感兴趣的读者,以及关注量子优势实际应用的研究人员。

💡 推荐理由: 揭示了量子分类器因测量噪声固有特性而天然具备对抗梯度攻击的防御能力,为评估量子机器学习系统的实际安全性提供了关键理论基础和成本量化工具。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zhisheng Zhang, Derui Wang, Qianyi Yang, Pengyang Huang, Junhan Pu, Yuxin Cao, Kai Ye, Jie Hao 0001, Yixian Yang

本文提出了一种名为 SafeSpeech 的防御框架,旨在保护用户上传的语音免受恶意语音合成技术的滥用。研究背景是:语音合成技术(如 deepfake 音频)已广泛用于电信诈骗等非法活动,攻击者可未经授权收集受害者语音并克隆相似声音。现有防御方法(如添加对抗扰动)在面临鲁棒训练技术时容易失效,且缺乏通用性。为此,SafeSpeech 的核心组件是语音扰动隐藏(SPEC)技术,它利用一个替代生成模型来产生对多种合成模型都有效的通用扰动,并将扰动嵌入到原始音频中,使得合成模型生成的语音质量显著下降。此外,该框架优化了扰动在时域和频域上的人耳感知效果,使扰动几乎不可察觉。实验评估覆盖了多个先进的语音合成模型和数据集,包括主观和客观测试。结果表明:SafeSpeech 在保护效果、可迁移性和对自适应攻击者的鲁棒性上均达到当前最优水平(SOTA),且在实际测试中具备实时处理能力。源代码已公开。该研究为语音数据的安全共享提供了一种主动防御方案。

💡 推荐理由: 针对日益猖獗的语音克隆诈骗,SafeSpeech 提出了一种主动、鲁棒且实时的防御方法,能够在用户端阻止高质量合成语音的生成,对保护个人语音生物特征和遏制电信诈骗有重要意义。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Hanyu Pei, Shang Liu, Zeyan Liu

本文提出了一种名为 LymphNode 的插件式访问控制方法,用于保护深度神经网络(DNN)模型免受未经授权的访问和攻击。在边缘部署场景中,DNN 模型面临不受限制的 oracle 访问风险,容易遭受模型提取和模型反转攻击。现有的防御手段存在不足:被动水印仅提供事后溯源,主动防御则引入高延迟或需要持续访问敏感的训练数据。LymphNode 作为模型内在的“免疫系统”,采用“默认拒绝”策略:它通过在特征空间中注入通用稀疏通用对抗扰动(GSUAP)来主动中和未授权查询的模型效用,有效阻止梯度估计和数据推断。只有携带隐秘特征域凭证的授权输入才能选择性恢复模型效用。该方法具有高效性:使用少于 100 个样本(训练数据的 1% 以下)即可建立稳健保护,并且具有跨数据集适应性,可使用公共替代数据集进行保护。LymphNode 提供了一种轻量级、可立即部署的防御方案,适用于原始训练数据受限或不可用且对模型保护有高要求的场景。

💡 推荐理由: 针对 DNN 模型在边缘部署中面临的无限制 oracle 访问攻击,提供了一种轻量、数据高效的主动防御方案,无需修改训练过程或访问原始训练数据。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)