#model-training

共收录 1 条相关安全情报。

← 返回所有主题
推荐 14.5
Conf: 50%
👥 作者: Sanjam Garg, Aarushi Goel, Somesh Jha, Saeed Mahloujifar, Mohammad Mahmoody, Guru-Vamsi Policharla, Mingyuan Wang 0001

本文研究如何在不泄露底层训练数据和最终模型的情况下,让模型拥有者证明其模型是按照正确的规格(如特定数据集、训练算法等)进行训练的。作者正式定义了零知识训练证明(zkPoT)的概念,并建立了安全模型。尽管通用零知识证明系统理论上可实现任何模型的zkPoT,但实际证明生成时间过长,无法实用。为设计高效方案,本文创新性地融合了MPC-in-the-head(MPC中公开验证的安全多方计算范式)与zkSNARKs(简洁的非交互零知识证明)两类技术,以在证明大小和计算时间之间取得平衡。作者基于该思路,为逻辑回归模型设计并实现了一个具体高效的zkPoT协议,通过实验验证了其可行性,相比通用方法显著降低了证明生成开销。该研究为模型训练的可验证性提供了隐私保护的实用路径,对AI合规、模型审计等场景具有基础性意义。

💡 推荐理由: 该研究解决了机器学习模型训练的可验证性与隐私保护之间的核心矛盾,为AI供应链安全、模型审计和合规提供了理论框架与实用方案。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)