#state-space-models

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Luis Brito

该论文提出了一种基于同态加密的状态空间模型(HSSM),用于在加密数据上执行序列推理任务。全同态加密(FHE)在序列模型中的应用面临旋转操作、密文乘积、密文物化、乘法深度和自举等成本问题。论文的核心创新是引入“公钥衰减”(public-decay)机制:将携带状态通过密文-明文公共衰减进行更新,而密文-密文乘法仅发生在局部写入路径上,从而在整个序列中保持固定加密状态。工作流程将客户端与服务器端分离:客户端负责分词、冻结的fastText词嵌入、投影、裁剪、加密、解密和阈值化;服务器端对边界投影特征执行加密评估。在完整的Rotten Tomatoes和SST-2验证集上,加密HSSM路径与明文分类完全匹配,准确率分别达到0.7505和0.7420。与同等工作负载下使用HE友好型多项式注意力相比,HSSM在保持或超越全序列任务质量的同时,运行速度快约5倍。在L40S上的操作级性能对比显示,HSSM比缓存最终令牌的多项式注意力延迟低1.34-1.62倍,比全序列多项式注意力延迟低30-258倍,且加密状态占用空间更小。T=16/32的比较器实验表明,在深度8/环大小32768参数下,带有加密公共线性输入和Q/K/V投影的HSSM成功运行,而投影注意力需要深度10/环大小65536。在OpenFHE/FIDESlib上的T=8跟踪测试显示,两个后端均在最终层级3和噪声尺度2完成。这些结果表明,公钥衰减机制是一种实用的FHE协同设计杠杆,可用于基于边界投影特征的加密序列推理。该研究适合对同态加密、隐私保护机器学习、序列模型效率优化感兴趣的学者和工程师。

💡 推荐理由: 提出了一种在同态加密下高效执行序列推理的新架构,显著降低了延迟和资源消耗,使加密推理更接近实用,对隐私计算领域具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)