#spiking-neural-networks

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Roberto Riaño, Gorka Abad, Stjepan Picek, Aitor Urbieta

本文提出 MeMark,一种面向脉冲神经网络(SNN)模型水印的新方法,专门针对模型检查点复用(checkpoint-reuse)场景。现有 SNN 水印通常将标识嵌入输出层,攻击者只需替换输出头即可移除验证证据。MeMark 将多比特标识嵌入选定泄漏积分-触发(LIF)神经元的内部膜电位状态:通过秘密输入驱动每个选定神经元阈值的一侧,并在验证时利用同一阈值恢复比特,无需学习式解码器。作者在循环、卷积、残差及 transformer 结构 SNN 上评估,包括 2.154 亿参数的 SpikeGPT 检查点。实验显示:20 个独立 64 位密钥均通过 51/64 验证规则,而 30000 个随机密钥全部被拒绝;微调、90% 剪枝、int8 量化和输出头替换后,所有权证据仍存活。自适应攻击可削弱但无法完全移除水印。同时研究了错误所有权声明、密钥感知/不可知移除、部分密钥披露、回滚及知识蒸馏攻击。结果表明 MeMark 能提供检查点衍生模型的证据,同时抵抗主流攻击和完全头部替换。适合关注模型知识产权保护、AI 安全研究的读者。

💡 推荐理由: SNN 模型作为预训练检查点广泛复用,现有水印易被输出头替换绕过。MeMark 首次在膜电位层面嵌入水印,为 SNN 所有权验证提供鲁棒方案,对模型泄露溯源和知识产权保护有直接价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Xiao Yang, Gaolei Li, Jun Wu, Jianhua Li, Zhiquan Liu

该论文提出了一种针对脉冲神经网络(SNN)的主动版权保护框架SpikeTimer。SNN在低功耗计算和事件驱动数据处理方面具有优势,但现有版权保护方法主要针对传统深度神经网络(DNN),难以直接迁移至SNN,因其具有复杂的时序编码和脉冲驱动计算特性。SpikeTimer利用时序后门学习机制,将神经形态数据划分为指定的时间片,仅在授权时间片内嵌入授权令牌。这种时间分割特性天然支持多用户授权机制,并能适应任意形态的令牌嵌入。SpikeTimer的核心创新在于建立时间依赖的授权机制,通过令牌的时间有效性保护SNN版权。具体地,当输入数据包含正确的令牌且位于正确的时间片时,模型正常响应;否则产生错误输出。实验表明,SpikeTimer在未授权数据上准确率约为10%,而授权数据准确率仅下降约1.5%。此外,该框架对模型微调和剪枝攻击具有鲁棒性。

💡 推荐理由: 首次为SNN设计主动版权保护方案,解决了传统方法在时序编码和脉冲计算下的不适用问题,为SNN在边缘智能、机器人等敏感场景的部署提供了安全保障。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)