Decomposing Memorization Reduction in Privacy-Preserving Fine-Tuning of SLMs for CSIRTs
该论文针对CSIRT（计算机安全事件响应团队）在微调语言模型处理漏洞扫描记录时面临的隐私风险，首次实证研究了差分隐私随机梯度下降（DP SGD）与HMAC假名化两种隐私保护技术的交互效果。研究使用1B至3B参数的小语言模型（SLMs），在结
#privacy-preserving machine learning
共收录 3 条相关情报。
← 返回所有主题Holding Secrets Accountable: Auditing Privacy-Preserving Machine Learning.
本文针对隐私保护机器学习（PPML）与机器学习审计这两个此前大多独立研究的领域进行了交叉探索。随着PPML技术（如安全多方计算、同态加密、差分隐私等）的发展，使得对高度敏感数据（例如医疗、金融记录）进行机器学习分析成为可能，然而严格的隐私法
Fusion: Efficient and Secure Inference Resilient to Malicious Servers.
本文提出了一种名为 Fusion 的高效安全推理方案，旨在抵御恶意服务器的攻击。在现有的安全机器学习推理方案中，大多数假设服务器是半诚实的（即遵守协议但试图推断额外信息），但在现实世界中，服务器可能是恶意的，例如使用低质量模型或偏离协议。尽