#malicious-security

共收录 5 条相关安全情报。

← 返回所有主题
👥 作者: Ke Cheng 0001, Yuheng Xia, Anxiao Song, Jiaxuan Fu, Wenjie Qu 0001, Yulong Shen 0001, Jiaheng Zhang

该论文提出 Mosformer,据称是首个支持大型 Transformer(如 BERT 和 GPT)的恶意安全三方计算(3PC)推理框架。基于 Transformer 的模型在众多 AI 任务中表现优异,但当以云推理服务形式部署时,用户输入和模型参数均面临隐私泄露风险。现有基于安全多方计算(MPC)的 Transformer 推理协议大多假设半诚实攻击者,而扩展到恶意安全模型面临极大开销,尤其是对复杂非线性函数的求值。Mosformer 的核心贡献在于:首先利用可验证分布式点函数(VDPFs)设计了恶意安全下的常数轮比较协议和查表协议;随后基于这些原语构建了一套高效且安全的 3PC 协议,用于求值 Transformer 中的复杂非线性函数(如 GELU、Softmax、LayerNorm 等)。结合优化的模数转换方法,Mosformer 在保持模型精度的同时显著降低了安全推理的开销。实验在 vanilla Transformer 模块上显示,与先前的恶意安全协议相比,Mosformer 实现了最高 5.3 倍的加速和 4.3 倍的通信量减少。在完整规模的 BERT 和 GPT-2 模型上,尽管提供了更强的安全保证,Mosformer 的在线性能仍可与当前最优的半诚实 2PC/3PC 框架(如 BOLT、BumbleBee、SHAFT、Ditto)相当甚至更优。该研究适合关注隐私保护机器学习、安全推理和密码学协议设计的蓝队研究人员阅读,其方法有望为隐私计算在实际部署中的安全性提升提供新思路。

💡 推荐理由: 该论文首次在恶意安全模型下实现高效的大型 Transformer 推理,弥补了现有 MPC 推理系统仅针对半诚实模型的不足,对云推理场景中的模型与数据隐私保护具有重要参考价值,可帮助蓝队评估安全推理方案的现实威胁模型。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Shuangqing Xu, Yifeng Zheng 0001, Zhongyun Hua

联邦学习(FL)是一种允许多个客户端在不共享原始本地数据的情况下,仅通过共享梯度更新联合训练模型的范式。然而梯度更新本身也可能泄露隐私。现有方法通常采用本地差分隐私(LDP)机制,在共享前由客户端本地扰动梯度,但这类方法会因添加大量噪声而严重损害模型效用。为获得更好的隐私-效用权衡,近期研究倾向于在联邦学习中应用差分隐私的 shuffle 模型,通过中间洗牌操作实现隐私放大。本文提出 Camel,一个在 shuffle 模型下通信高效且可抵御恶意敌手的联邦学习框架。Camel 突破现有工作的限制,支持对 shuffle 计算的完整性校验,实现针对恶意服务器的安全性。具体而言,Camel 基于秘密共享洗牌这一前沿密码学原语,并定制了优化系统整体通信效率的技术,还引入轻量级完整性检查来强化服务器端计算的安全性。此外,作者通过分析整个 FL 过程的 Rényi 差分隐私(RDP),推导出显著更紧的隐私损失上界。大量实验表明,与现有最先进工作相比,Camel 在隐私-效用权衡上达到更优结果,并展现出有前景的性能。该研究适合关注联邦学习、差分隐私、安全多方计算和隐私增强技术的学者与安全工程师阅读。

💡 推荐理由: 该工作解决了联邦学习中隐私保护与模型效用难以兼得的痛点,并提出针对恶意服务器的安全防护,对实际部署隐私保护联邦学习系统具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 9.5
Conf: 50%
👥 作者: Ofri Nevo, Ni Trieu, Avishay Yanai

本文研究多方隐私集合交集(Multiparty Private Set Intersection)在恶意敌手模型下的安全协议设计问题。隐私集合交集允许多方在不泄露各自集合内容的前提下计算交集,是安全多方计算中的基础问题,广泛应用于社交网络好友匹配、基因数据共享、威胁情报共享等场景。现有协议在恶意敌手下通常需要高开销的零知识证明或公钥密码学操作,效率较低。本文首先指出,在可假设被腐化方之间不共谋的条件下,存在仅使用对称密钥原语的极其高效的协议,这大幅降低了计算和通信开销。随后,作者提出了一个更健壮的协议,能抵抗任意严格子集被腐化且无需共谋假设的安全性要求。该协议基于最近提出的两种原语:不可编程模糊PRF(Oblivious Programmable PRF, OPPRF)和不可编程键值存储(Oblivious Key-Value Store, OKVS)。通过这两种原语,协议能够在恶意敌手存在时保持输入隐私和输出正确性,同时避免了传统公钥密码的高昂成本。文中详细描述了协议构造,并给出了安全性证明。虽然本文是理论性研究,但其结果对需要安全多方计算的真实系统具有潜在的工程意义,尤其是对效率敏感的应用场景。读者可以从中获得关于如何利用 OPPRF 和 OKVS 构建高效恶意安全协议的设计思路。注意:本摘要仅基于论文摘要生成,未阅读全文,因此细节可能有省略。

💡 推荐理由: 该研究提出了更高效且可证明安全的恶意多方PSI协议,能够降低安全计算部署成本,对依赖多方数据交叉比对的蓝队场景(如威胁情报共享、泄露数据匹配)有实际参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Sylvain Chatel, Christian Knabenhans, Apostolos Pyrgelis, Carmela Troncoso, Jean-Pierre Hubaux

本文针对同态加密(Homomorphic Encryption, HE)在恶意敌手模型下计算结果缺乏可验证性的问题展开研究。同态加密允许在密文上直接执行计算,是隐私保护数据分析的关键技术,但现有HE管道无法防止恶意服务器返回错误计算结果。为此,作者提出了两种与主流全同态加密方案兼容的编码方案,使得客户端能够以低开销验证同态计算结果的正确性。这些编码支持现代隐私保护分析所需的全部操作,包括加法和乘法等,从而在不牺牲计算能力的前提下引入可验证性。基于所提编码,作者实现了一个即用型库,可对任意在加密数据上执行的同态操作进行验证。实验表明,该方案在多种应用场景下具有实用性,尤其对于某些同态分析任务,验证开销相对于同态加密基线仅增加不到3倍。该工作为构建恶意安全的同态加密计算管道提供了基础组件,填补了HE在恶意安全验证方面的空白。适合研究同态加密、安全多方计算、隐私保护机器学习和可验证计算的安全研究人员阅读。

💡 推荐理由: 同态加密应用长期缺乏恶意安全下的结果验证,本文提出的可验证编码以小于3倍开销实现验证,为实际部署隐私保护分析提供了信任基础。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Weikeng Chen, Thang Hoang, Jorge Guajardo, Attila A. Yavuz

该论文提出了 Titanium,一种具有恶意安全性的元数据隐藏文件共享系统。在端到端加密文件共享系统中,文件内容对存储服务器保密,但服务器仍能学习元数据,如用户身份和访问模式。先前的工作如 Metal(NDSS '20)在恶意服务器模型下不安全,而 MCORAM(ASIACRYPT '20)提供了针对恶意服务器的机密性,但缺乏完整性保证。Titanium 旨在同时提供机密性和完整性,抵御恶意服务器。具体方法基于可验证混淆 RAM(ORAM)和秘密共享等技术,但 abstract 未提供详细架构。实验评估可能展示了在合理开销下的安全性。该工作适合对数据安全、隐私增强技术感兴趣的研究者阅读。

💡 推荐理由: 文件共享系统广泛使用,但元数据泄露威胁用户隐私。Titanium 首次同时实现针对恶意服务器的机密性与完整性,填补了现有方案的安全缺口。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)