#proof-of-learning

共收录 1 条相关安全情报。

← 返回所有主题
推荐 9.6
Conf: 50%
👥 作者: Hengrui Jia 0001, Mohammad Yaghini, Christopher A. Choquette-Choo, Natalie Dullerud, Anvith Thudi, Varun Chandrasekaran, Nicolas Papernot

该论文提出了机器学习中的“学习证明”(Proof-of-Learning)概念,旨在解决模型训练完成后,训练者无法向第三方证明模型参数确实是通过给定优化过程得到的问题。现有方法无法验证训练计算的真实性,这可能导致模型所有权争议或分布式训练中拜占庭工返回错误更新。受工作量证明和可验证计算启发,作者观察到随机梯度下降(SGD)算法因其随机性会累积秘密信息(即模型更新路径上的随机梯度和参数历史),从而自然构成一种学习证明。具体而言,训练者通过发布模型参数以及一组包含中间参数和随机梯度的证明,验证者可以高效检查证明的正确性。作者通过分析和实验证明,攻击者若想伪造学习证明,所需计算量至少与执行完整梯度下降相当。论文在两个场景中实例化了该机制:模型所有权争议中,用于保护公开发布模型的知识产权;分布式训练中,用于确保训练过程的可用性,防止拜占庭工拒绝服务。实验表明,该机制对硬件(如ML加速器)和软件栈引起的方差具有鲁棒性。

💡 推荐理由: 该研究首次为机器学习模型训练提供了可验证性机制,有助于解决模型所有权纠纷并增强分布式训练的安全性,对保护AI知识产权和提升训练基础设施可信度有重要意义。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)