#secure inference

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Zhicong Huang, Wen-jie Lu, Cheng Hong 0001, Jiansheng Ding

该论文提出了一种名为 Cheetah 的轻量级且快速的安全两方深度神经网络推理协议。研究背景是随着深度神经网络在医疗、金融等敏感领域的应用,保护模型和数据的隐私变得至关重要。现有的安全推理方案(如基于同态加密或多方计算)往往存在计算开销大或通信成本高的问题。Cheetah 旨在平衡安全性与效率,通过精心设计的加密协议和优化技术,实现两方参与的深度神经网络推理,其中一方持有模型,另一方持有输入数据,双方在不泄露各自私密信息的情况下完成推理。论文方法结合了秘密共享、混淆电路和同态加密等技术,并针对常见神经网络层(如卷积、全连接、激活函数)进行了高效的原语设计。实验结果表明,Cheetah 在多个标准数据集和模型架构(如 ResNet、VGG)上相比现有方案实现了显著的性能提升,特别是在通信开销和在线推理时间方面。该工作对于推动隐私保护机器学习在实际生产环境中的部署具有重要参考价值。

💡 推荐理由: 随着模型即服务(MaaS)的普及,保护用户查询隐私和模型权重成为刚需。Cheetah 提供了一种高效实用的安全推理方案,有助于安全社区理解和评估两方计算的性能瓶颈。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Caiqin Dong, Jian Weng 0001, Jia-Nan Liu, Yue Zhang 0025, Yao Tong, Anjia Yang, Yudan Cheng, Shun Hu

本文提出了一种名为 Fusion 的高效安全推理方案,旨在抵御恶意服务器的攻击。在现有的安全机器学习推理方案中,大多数假设服务器是半诚实的(即遵守协议但试图推断额外信息),但在现实世界中,服务器可能是恶意的,例如使用低质量模型或偏离协议。尽管已有少量研究考虑了恶意服务器偏离协议的情况,但它们忽略了模型准确性的验证(即服务器使用低质量模型),同时需要保护服务器模型和客户端输入的隐私。为了解决这些问题,Fusion 让客户端将已知查询结果的公共样本与自己的待查询样本混合,作为多方计算(MPC)的输入来联合执行安全推理。由于使用低质量模型或偏离协议的服务器只会产生容易被客户端识别的结果,Fusion 迫使服务器诚实行为,从而在不使用昂贵密码学技术的情况下解决了上述所有问题。实验评估表明,Fusion 比现有的恶意安全推理协议(目前不支持模型准确性验证)快 48.06 倍,通信量减少 30.90 倍。此外,为了展示可扩展性,作者在 ResNet50 模型上进行了 ImageNet 规模的推理,在广域网环境下只需 8.678 分钟和 10.117 GiB 通信,比半诚实协议快 1.18 倍,通信量减少 2.64 倍。本文的研究背景是安全推理中的恶意服务器威胁,核心问题是兼顾模型准确性验证和隐私保护。主要贡献是提出一种轻量级的、不依赖昂贵密码学的方案,并通过实验证明了其高效性和可扩展性。适合安全研究人员、机器学习工程师以及对隐私保护计算感兴趣的从业者阅读。

💡 推荐理由: 该方案提出了一个实用且高效的恶意服务器安全推理方法,解决了现有方案忽略模型质量验证的问题,对提升实际部署中 LLM 或机器学习推理的安全性具有参考价值。

🎯 建议动作: 研究跟进,评估该方案在自有推理场景中的适用性

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)