推荐 3.5
Conf: 50%
本文提出了一种名为“最小信息泄露”(Minimal Information Disclosure, MID)的框架,用于解决AI验证过程中的隐私保护问题。AI验证通常需要验证者获取足够的信息以确认某项授权声明,但这些证据可能同时泄露关于模型、工作负载或硬件的敏感细节。MID的核心思想是设计并量化验证者可见证据本身的信息内容,利用条件互信息来衡量“附带泄露”——即在授权结果已知后,证据发布仍然揭示受保护属性的信息量。MID的设计具有通用性,能够适配不同的验证目标、受保护属性、证据来源和部署约束。作者在四个物理测量数据集和六项验证任务上进行了实验,覆盖执行类型、硬件身份、计算规模、模型身份等验证场景,并通过三个机制设计变量(证据通道、采集策略、发布变换)展示了MID的实用性。实验结果表明,MID在部分任务中实现了完美的留出验证性能且附带泄露为零,其余任务则给出了明确的隐私-效用前沿。此外,MID还支持基于ZKP(零知识证明)的认证发布,作者使用Groth16 zk-SNARK演示了所提出的线性投影机制。该研究为AI验证中的隐私保护提供了新的理论工具和实用方法,适合从事AI安全、隐私计算、可验证计算和零知识证明方向的研究者阅读。
💡 推荐理由: 为AI验证中的隐私-效用权衡提供了可量化的通用框架,帮助安全从业者设计评估验证机制,避免验证过程本身成为敏感信息泄露渠道。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)