#similarity-scores

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Behrooz Razeghi, Parsa Rahimi

本文提出 ScoreShield,一种差分隐私(DP)机制,用于安全发布向量嵌入之间的余弦相似度分数,适用于生物识别、检索增强生成(RAG)等应用。现有方法简单添加独立同分布高斯噪声会导致严重失真且隐私预算随分数数量平方级增长。ScoreShield 采用“扰动-投影”方法:先向原始分数向量添加校准到全局敏感度的高斯噪声,再将结果投影到有效余弦对象的可行集上,满足 (ε,δ)-DP。文章提供了精确 Frobenius 度量投影的效用保证,并证明了用于大规模 Gram 矩阵发布的平均交替投影求解器的收敛性。针对记录级替换邻接下的全配对余弦 Gram 矩阵发布,精确投影将平方 Frobenius 风险从朴素高斯基线(Θ(n^3))降低到 O(n^2)。实验涵盖 RAG、人脸识别、语义检索、图像相似度和推荐系统任务,验证了 ScoreShield 在保持实用性的同时显著提升隐私保护。

💡 推荐理由: 当前许多系统通过 API 返回相似度分数,但此类输出可能泄露个体数据并引发成员推断攻击。ScoreShield 提供了理论严谨且实用的差分隐私解决方案,为 RAG、生物识别等高敏感应用提供了可落地的隐私保护手段。

🎯 建议动作: 研究跟进,评估 ScoreShield 在自身系统中的适用性

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)