#high-dimensions

共收录 1 条相关安全情报。

← 返回所有主题
推荐 9.5
Conf: 50%
👥 作者: Sarthak Choudhary, Aashish Kolluri, Prateek Saxena

本文针对现代神经网络训练中常用的高维向量平均操作,提出了一种名为HiDRA的新型投毒攻击。训练过程中,攻击者可以通过操纵部分输入向量来偏置平均结果,从而迫使模型学习特定模式或完全丧失学习能力。拜占庭鲁棒聚合是一种原则性的算法防御,旨在限制即使部分输入被任意篡改时中心统计量(如均值)的最大偏差。然而,设计高维场景下的鲁棒聚合器极具挑战。近期提出的首个多项式时间算法声称具有与维度无关的强理论偏差上界,这似乎为投毒攻击设定了概念上的极限。本文通过HiDRA攻击揭示了这些强防御在实际实现中的计算瓶颈:防御算法在消除偏差时需要在高维空间中进行复杂的优化,而HiDRA巧妙地利用了这一点。实验表明,HiDRA能够几乎完全破坏模型性能,而现有攻击(如针对均值或中位数的攻击)效果微弱。该研究结果说明,投毒攻击与可证明防御之间的军备竞赛远未结束,理论保证在实际部署中可能因计算限制而失效。

💡 推荐理由: 本文打破了近期针对高维拜占庭鲁棒聚合的强理论防御承诺,指出其维度无关的偏差上界在实际中因计算瓶颈而可被绕过,对联邦学习、分布式训练等场景的安全性提出了严峻挑战。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)