#ai-integrity

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Ruichen Qi, Xinting Jiang, Ema Dimitrova, Junyi Luo, Quan Cheng, Mehdi Saligane

本文针对AI系统在可信根(RoT)认证后、权重在执行路径上可能被篡改的TOCTOU安全问题,提出SILK机制。RoT认证通常只在加载时验证DNN模型,但权重在被计算引擎消耗前会经过DRAM、DMA、互连和预取等多条路径,攻击者可在此路径上修改权重,而不影响已认证的模型镜像,导致实际使用的权重与认证时不一致。SILK在权重进入计算的最后边界进行流式完整性验证。它利用量化权重的LSB位作为密钥完整性位,并建立跨权重字节的依赖链,使得任何局部修改都会扰动多个完整性检查。一个轻量级的流式检查器无需附加认证标签即可重新计算这些检查,并通过提交门控机制阻止未经验证的权重被计算。在安全伪随机函数(PRF)假设下,伪造概率随受影响检查数量呈指数下降,实测未命中率与分析界限一致。在功能攻击套件中,SILK检测所有流修改实例。对于INT8,在测试的CNN上质量损失最多0.76个百分点,在8个LLM上困惑度增加最多0.17;INT4和MXFP4可通过检查稀疏性提供可配置的安全质量权衡。在Xilinx ZCU102上,参考流水线实现吞吐量756MB/s,面积成本仅为Caliptra 2.x RoT的1.00%,而配置为每次尝试伪造概率2^-128时仍能保持678MB/s,成本为6.15%。该研究为AI推理路径提供了一种低开销的完整性保障方案,适合硬件安全设计者和AI系统架构师参考。

💡 推荐理由: AI系统在模型加载后仍存在权重被篡改的风险,SILK以极低硬件开销在计算边界保证权重完整性,为可信AI推理和硬件安全设计提供了新思路。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)