#privacy-inference

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Guang Yan, Yuhui Zhang 0011, Zimu Guo, Lutan Zhao, Xiaojun Chen 0004, Chen Wang, Wenhao Wang 0001, Dan Meng 0002, Rui Hou 0001

本文提出一种名为 Comet 的高效隐私推理系统,旨在加速基于云平台的大语言模型(LLM)推理服务,同时缓解用户对敏感信息泄露的担忧。当前主流方案采用安全多方计算(MPC)保护推理过程中的数据隐私,但 MPC 需要频繁的服务器间通信,导致显著性能开销。作者观察到 LLM 中普遍存在激活稀疏性——即经过非线性激活函数后,大多数神经元未被激活,其输出为零。基于此观察,Comet 设计了一种准确且快速的预测器,用于预测激活函数输出的稀疏分布;同时引入新的隐私推理协议,利用预测得到的稀疏分布空间局部性,高效且安全地跳过涉及零值的计算。由于这种计算回避策略会破坏 KV 缓存条目的时空连续性,作者提出一种低通信开销的缓存重填策略,合并未命中请求并引入预取机制予以解决。实验基于四种常见 LLM,并与六种最先进的隐私推理系统比较,Comet 实现了 1.87 倍至 2.63 倍的加速以及 1.94 倍至 2.64 倍的通信量减少。本文面向隐私计算、LLM 推理优化以及系统安全领域的研究者与工程师,重点展示了如何利用模型结构特性增强 MPC 方案的实用性。

💡 推荐理由: 为 LLM 隐私推理的性能瓶颈提供了新颖的稀疏感知优化方向,显著降低 MPC 通信开销,对云上安全推理服务的实际落地具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Yufan Zhu, Chao Jin, Khin Mi Mi Aung, Xiaokui Xiao

该论文针对长文本隐私推理中的性能瓶颈问题,提出了一种名为FESC(Factorized Encrypted Scan-Contract)的混合FHE-MPC系统。传统隐私推理系统主要优化或分布式实现Transformer的加密注意力机制,但注意力机制的二次方token-pair计算复杂度随着序列长度增长成为主要瓶颈。状态空间模型(SSM)具有线性时间递归特性,但直接加密实现会导致线性乘法深度、全序列状态驻留或密集的FHE-MPC转换开销。FESC通过因子化扫描-收缩(factorized scan-contract)方法,将输入相关的状态转换保持紧凑并跨越转换边界,无需密集扩展即可组合,按需流式传输状态块,并在转换前收缩输出。该系统展示了扫描-收缩实现在不变和选择性SSM架构上的接口兼容性。论文针对Mamba-2实例设计了GPU优化的CKKS核用于线性计算,以及针对SiLU、softplus、指数和RMSNorm的MPC协议,并结合近似感知微调。据作者所述,FESC是首个在单GPU上完成L≥1024原生端到端执行的私有长文档推理系统。在L=2048时,12层Mamba-base模型在单个A100 GPU上完成推理耗时77.3分钟,峰值内存占用32.7GB,并在评估的长文档任务上保持接近明文精度的准确性。该研究为长上下文隐私推理提供了新的架构思路,证明了SSM在隐私计算中的可行性。适合对隐私保护机器学习、同态加密、安全多方计算以及大规模语言模型推理优化感兴趣的研究人员和工程师阅读。

💡 推荐理由: 该研究突破了长文本隐私推理的性能瓶颈,首次在单GPU上实现长序列SSM的端到端私有推理,为处理敏感长文档(如医疗记录、法律文件)提供了可行方案,对隐私计算与LLM结合的方向有重要推动作用。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ronghua Li 0002, Shinan Liu, Haibo Hu 0001, Qingqing Ye 0001, Nick Feamster

WiFinger 提出了一种针对高噪声 Wi-Fi 环境下物联网(IoT)设备事件流量的细粒度指纹识别方法。智能家居等 IoT 环境容易遭受隐私推断攻击,攻击者通过分析加密网络流量的模式来推断设备状态甚至人员活动。现有攻击大多依赖机器学习技术,但在无线流量上表现不佳,因为 Wi-Fi 嗅探具有高噪声和数据包丢失的特点。此外,这些方法通常针对区分分块的 IoT 事件流量样本,无法有效同时跟踪多个并发事件。WiFinger 将流量模式分类问题转化为子序列匹配问题,通过引入高效算法解决了高时间复杂度,同时保持了高准确率。该方法还降低了对训练样本量的依赖,使得未来更新指纹更加轻量,减少了人工成本。实验在多种实际威胁模型下评估,WiFinger 的平均召回率达到 89%,而对比方法仅为 49% 和 46%,同时在各种 IoT 事件上几乎零误报。该研究揭示了无线层加密流量的隐私风险,并展示了传统分类方法在无线环境中的局限性。核心贡献包括:将序列匹配引入物联网流量指纹识别,针对噪声和多事件场景设计了新机制,并显著降低了样本需求。该工作对理解无线流量隐私泄露途径和设计相应防御措施具有参考价值。

💡 推荐理由: WiFinger 展示了在 Wi-Fi 层对加密 IoT 流量进行高准确率事件识别的方法,提醒防御者即使加密也不能完全防止流量分析攻击,有助于评估无线网络中的隐私风险并设计对策。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)