本文提出了 RRAM-DP,一种面向边缘 AIoT 系统的硬件-算法协同差分隐私方法。边缘 AIoT 设备常收集敏感数据,隐私保护至关重要。电阻式随机存取存储器(RRAM)因其多比特存储和存内计算能力而成为高效 AIoT 的候选硬件,但其固有的随机写入行为通常被视为精度损失因素。RRAM-DP 创新地利用这种随机性,通过放松 RRAM 写验证操作来注入经过校准的噪声,从而实现形式化的 (ε, δ)-差分隐私,并辅以预训练技术,形成一种新颖的隐私保护、高实用性的存内计算训练范式。在 CIFAR-10/100、STS-B 和 SST-2 数据集上,RRAM-DP-SGD 在 (ε=2, δ=O(1/n))-DP 下相比非隐私 SGD 仅最多损失 3.8% 的准确率。在相同隐私水平下,与 A100 GPU 和 DiVa-GEMM 相比,RRAM-DP-SGD 分别实现了最高 57 倍和 3.2 倍的能量节省,以及 2.7 倍和 1.8 倍的加速。这些结果表明,RRAM-DP 能够在边缘实现高效且隐私保护的存内训练。
💡 推荐理由: 该工作将硬件固有的随机性转化为差分隐私机制,为边缘隐私保护训练提供了低成本、高效率的硬件原生解决方案,有助于推动隐私保护 AIoT 的实用化。
🎯 建议动作: 研究跟进,评估 RRAM-DP 在自有边缘硬件上的可行性与效果,尤其关注隐私预算与模型精度的权衡。