#random-fourier-features

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Michael Collins, Jada Cumberland, Brianne Dunn, Ross Gore, Samuel Jackson, Sachin Shetty

Goldwasser 等人此前证明,在随机傅里叶特征(RFF)算法训练的机器学习模型中,可以植入一类不可检测后门,其安全性建立在与连续学习带误差问题(CLWE)相关的困难假设之上;在标准密码学假设下,即使对模型权重做完全白盒审计也无法发现该后门。但原始论文仅以密码学归约和概率引理的形式给出构造,没有参考实现,且依赖 Sparse Gaussian Pancakes 分布、齐次 CLWE 条件密度等辅助机制,仅凭论文难以判断其能否在普通数值代码中落地。本文的工作正是填补这一空白:作者仅使用 numpy 与 scipy,端到端实现了白盒 CLWE-RFF 后门构造,用以检验该威胁是可用通用科学计算工具复现,还是必须依赖专门的密码学基础设施。论文为构造核心所需的 GP_d(b_k) 分布提供了两种采样器:一是基于拒绝采样的近似方案,二是由齐次 CLWE 条件密度推导出的精确闭式采样器,并用其自身解析形式进行了验证。在此基础上,作者开展统计不可区分性测试,同时覆盖权重空间审计与黑盒功能对比两类视角,在多个稀疏比 ρ = d_sparse/D 下均未发现后门模型与干净模型之间存在可检测差异。论文还具体报告了构造中哪些部分易于实现、哪些需要论文未给出的额外推导,并明确列出未尝试复现的部分,包括底层的格困难性归约。作者将本工作定位为对 Goldwasser 白盒 CLWE 核心实务可实现性的贡献,而非新的理论结果。适合机器学习安全、模型供应链与可信 AI、密码学工程方向的研究者与防御方阅读。

💡 推荐理由: 它表明“不可检测后门”并非纸面理论:仅凭通用 numpy/scipy 即可复现,权重级白盒审计与黑盒功能测试都可能看不出异常。这直接动摇第三方模型/权重可被信任的假设,对模型供应链与可信部署构成现实压力。

🎯 建议动作: 研究跟进;纳入内部模型供应链安全评估

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)