#malicious server

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Caiqin Dong, Jian Weng 0001, Jia-Nan Liu, Yue Zhang 0025, Yao Tong, Anjia Yang, Yudan Cheng, Shun Hu

本文提出了一种名为 Fusion 的高效安全推理方案,旨在抵御恶意服务器的攻击。在现有的安全机器学习推理方案中,大多数假设服务器是半诚实的(即遵守协议但试图推断额外信息),但在现实世界中,服务器可能是恶意的,例如使用低质量模型或偏离协议。尽管已有少量研究考虑了恶意服务器偏离协议的情况,但它们忽略了模型准确性的验证(即服务器使用低质量模型),同时需要保护服务器模型和客户端输入的隐私。为了解决这些问题,Fusion 让客户端将已知查询结果的公共样本与自己的待查询样本混合,作为多方计算(MPC)的输入来联合执行安全推理。由于使用低质量模型或偏离协议的服务器只会产生容易被客户端识别的结果,Fusion 迫使服务器诚实行为,从而在不使用昂贵密码学技术的情况下解决了上述所有问题。实验评估表明,Fusion 比现有的恶意安全推理协议(目前不支持模型准确性验证)快 48.06 倍,通信量减少 30.90 倍。此外,为了展示可扩展性,作者在 ResNet50 模型上进行了 ImageNet 规模的推理,在广域网环境下只需 8.678 分钟和 10.117 GiB 通信,比半诚实协议快 1.18 倍,通信量减少 2.64 倍。本文的研究背景是安全推理中的恶意服务器威胁,核心问题是兼顾模型准确性验证和隐私保护。主要贡献是提出一种轻量级的、不依赖昂贵密码学的方案,并通过实验证明了其高效性和可扩展性。适合安全研究人员、机器学习工程师以及对隐私保护计算感兴趣的从业者阅读。

💡 推荐理由: 该方案提出了一个实用且高效的恶意服务器安全推理方法,解决了现有方案忽略模型质量验证的问题,对提升实际部署中 LLM 或机器学习推理的安全性具有参考价值。

🎯 建议动作: 研究跟进,评估该方案在自有推理场景中的适用性

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)