推荐 16.5
Conf: 50%
本文提出了一种针对LLM推理零知识证明验证的新型攻击——Hollow-LLM攻击。在零知识证明(ZKP)场景中,验证者通常需要检查证明者是否基于正确权重执行了推理,但本文发现攻击者可以构造一类“计算上琐碎”的权重,即权重值极小或特定模式,使得验证过程中的多项式承诺或线性测试极易通过,从而在完全不进行真实推理的情况下欺骗验证者。具体地,攻击者利用零知识证明协议中算术电路的特定门约束,将所有权重设置为接近零或具有特殊代数结构的值,导致验证者无法区分真实推理与伪造证明。实验表明,该攻击在多个主流ZKP系统(如crypto、Groth16等)上成功,且对证明大小和验证时间影响微小。该研究揭示了当前LLM推理完整性验证机制在对抗性权重攻击下的脆弱性,强调了在部署ZKP验证时需额外检查权重分布或引入一致性约束。
💡 推荐理由: 如果LLM推理依赖零知识证明进行完整性验证,Hollow-LLM攻击可让恶意证明者绕过验证,导致用户信任被篡改的推理结果,威胁金融、医疗等高风险场景。安全从业者应关注权重层面的新攻击面。
🎯 建议动作: 研究跟进
排序因子: 影响边界/网络设备 (+5) | 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)