#ml-backdoor

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Michael Collins, Jada Cumberland, Brianne Dunn, Ross Gore, Samuel Jackson, Sachin Shetty

本文实现并评估了一类白盒条件下不可检测的后门。背景是 Goldwasser 等人此前证明:在使用随机傅里叶特征(RFF)训练的机器学习模型中,可以植入在白盒审计下也无法被检测的后门,其安全性建立在与连续学习误差问题(CLWE)相关的困难性假设之上。按照标准密码学假设,即便审计者完全掌握模型权重,也无法区分后门模型与干净模型。然而原论文的构造以密码学归约和概率引理的形式给出,没有参考实现,并依赖稀疏高斯煎饼分布(Sparse Gaussian Pancakes)以及齐次 CLWE 条件密度等辅助数学工具,其能否用普通数值代码实现、是否必须依赖专门的密码学基础设施,从原文难以判断。本文的工作是:仅使用 numpy 与 scipy,端到端实现该白盒 CLWE-RFF 后门构造,以检验这一威胁在商品化科学计算工具下是否可真实复现。作者针对构造核心的 GP_d(b_k) 分布给出两个采样器:一是基于拒绝采样的近似代理;二是由齐次 CLWE 密度推导出的精确闭式采样器,并用其解析形式对自身进行校验。基于该实现,作者开展了统计不可区分性测试,同时覆盖权重空间比较与功能性黑盒比较;在多个稀疏比 ρ = d_sparse / D 的取值下,均未发现后门模型与干净模型之间存在可检测的差异。论文还报告了构造中哪些环节易于实现、哪些环节需要原文未展开的推导,以及哪些部分未尝试复现,包括底层的格困难性归约。作者明确将本工作定位为对 Goldwasser 白盒 CLWE 核心构造可实践性的理解性贡献,而非新的理论结果。

💡 推荐理由: 模型白盒审计长期被视为发现后门的关键手段。该工作表明,在仅用 numpy/scipy 的商品化环境下即可实现权重层面不可区分的后门,动摇了“检查权重即可发现后门”的假设,对 ML 供应链与模型审计流程有直接参考价值。

🎯 建议动作: 研究跟进:将该实现作为对照样例纳入模型审计有效性评估,验证现有后门检测工具对 CLWE-RFF 后门是否失效。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)