#gradient-boosted-decision-trees

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Thorsten Peinemann, Moritz Kirschte, Joshua Stock, Carlos Cotrini, Esfandiar Mohammadi

本文提出 S-BDT,一种新颖的 (ε, δ)-差分隐私分布式梯度提升决策树(GBDT)学习器。研究核心问题是在分布式机器学习环境中,如何在不牺牲模型效用(如准确率或回归误差)的前提下,增强对单个训练数据点的隐私保护。传统差分隐私方法通常通过添加噪声来扰乱模型,但噪声过大会影响模型性能。S-BDT 的主要创新在于使用非球形多元高斯噪声而非各向同性噪声,从而在相同隐私预算下减少所需噪声量。作者推导了该噪声分布下紧密的采样下界,用于隐私放大分析,并将其整合进 Rényi 差分隐私滤波器,实现个体级别的隐私核算,使得隐私预算的分配更加精细。实验在多个基准数据集上验证了方法的有效性:在 Abalone 回归数据集(约4千样本)上,当 ε ≤ 0.5 时,达到相同效用的同时节省 50% 的 epsilon;在 Adult 分类数据集(约5万样本)上,当 ε ≤ 0.08 时节省 30% epsilon;在 Spambase 分类数据集(约5千样本)上,当 ε ≤ 0.03 时节省 30% epsilon。此外,论文还考虑了数据流来自不同子群体(非独立同分布)的场景,显示 S-BDT 能进一步增加 epsilon 的节省。这项工作的贡献包括:提出新的噪声机制,改进隐私核算方法,并在多种数据集和设置中证明其优势,为差分隐私机器学习提供了更高效的解决方案。

💡 推荐理由: 差分隐私是保护训练数据隐私的关键技术。S-BDT 在保持模型效用的同时显著降低隐私预算消耗,为在敏感数据(如用户行为、网络流量)上训练决策树模型提供了更实用的隐私保护方案,具有实际部署价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 3.5
Conf: 50%
👥 作者: Huang Chenyu, Zhang Fan, Du Minxin, Chow Sherman SM, Chen Huangxun, Rao Huaming, Huang Danqing, Qian Bo, Chen Peng

本文研究的是在两方垂直分割数据上训练梯度提升决策树(GBDT)的隐私保护问题。GBDT在金融和医疗等领域广泛应用,但传统安全计算方法(如基于私有集合交集PSI)会暴露双方共享的记录标识符(IDs),存在隐私泄露风险。本文首次提出匿名GBDT训练协议,旨在隐藏记录ID。核心方法包括:设计双电路PSI,让双方交替作为接收方对本地特征执行“选取-求和”操作;利用可编程伪随机函数(OPPRF)将电路PSI输出作为共享状态传递;无需全局对齐,解决了ID隐藏代价随域大小增长的难题。此外,本文还改进了密文打包技术,将先前安全GBDT方案(Usenix Security'23)中基于环LWE的单指令多数据同态加密的代价减半。实验表明,该协议在效率上与有泄漏的方法相当。该技术可扩展到其他垂直分割数据分析场景。

💡 推荐理由: 本文提出的匿名GBDT训练协议,首次解决了垂直联邦学习中记录ID隐私泄露的问题,为金融、医疗等敏感数据协作提供了更安全的方案,具有重要意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)