推荐 14.5
Conf: 50%
本文提出并研究了零知识训练证明(zkPoT)的概念,旨在解决模型所有者如何在保护训练数据集和最终模型隐私的前提下,向验证者证明其模型是按照正确规范训练的。作者首先形式化了zkPoT的安全定义,包括完备性、可靠性和零知识性等属性,为隐私保护的训练证明提供了严格的安全模型。尽管理论上可以使用通用零知识证明系统为任意模型构建zkPoT,但该方法会导致证明生成时间过长,不适用于实际场景。为此,本文创新性地结合了MPC-in-the-head(将多方计算思想用于零知识证明)和zkSNARKs(简洁的非交互式零知识论证)两种技术路线,通过在证明大小和计算时间之间取得平衡,设计出具体高效的协议。作者将这一思想实例化,针对逻辑回归模型提出了一个新颖的zkPoT协议,并进行了实验验证。实验结果表明,该协议在保持隐私性的同时,显著降低了证明生成的开销,使得zkPoT在实际部署中成为可能。本文的主要贡献包括:首次形式化定义zkPoT安全模型;提出结合MPC-in-the-head与zkSNARKs的混合设计范式;针对逻辑回归给出具体协议实现并证明其安全性。该工作适用于对模型训练完整性有严格要求的场景,如合规审计、联邦学习验证、以及可信机器学习即服务等。
💡 推荐理由: 模型训练的完整性验证是AI安全的关键问题,zkPoT能在不泄露训练数据和模型细节的前提下实现可验证性,有助于增强机器学习系统的透明度和可信度,对抗模型后门、数据投毒等攻击。
🎯 建议动作: 研究跟进
排序因子: 影响边界/网络设备 (+5) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)