#ranking

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Zirui Gong, Yanjun Zhang, Leo Yu Zhang, Zhaoxi Zhang 0001, Yong Xiang 0001, Shirui Pan

本文研究联邦排名学习(Federated Ranking Learning, FRL)的鲁棒性。FRL 是一种新兴的联邦学习范式,与传统联邦学习有两个关键区别:1)客户端传递离散排名而非梯度更新,大幅降低通信成本并限制恶意更新空间;2)服务端采用多数投票聚合全局排名,每个客户端仅贡献一票,从而削弱单个客户端的恶意影响。这些特性使 FRL 具备良好的可扩展性和抗投毒潜力。然而,作者通过理论分析证明 FRL 并非固有鲁棒,存在特定脆弱边(vulnerable edges)。他们推导出每层中识别脆弱边的下界和上界,并据此提出一种新型本地模型投毒攻击——脆弱边操纵攻击(VEM)。该攻击首先定位每层最脆弱的边,然后利用优化方法最大化扰动效果。在基准数据集上的实验表明,VEM 攻击的平均攻击影响力达 53.23%,是现有最佳方法的 3.7 倍。这项工作揭示了排名联邦学习中的重大安全漏洞,并强调了开发新型鲁棒联邦学习框架的紧迫性。

💡 推荐理由: 传统关注联邦学习梯度安全,但此研究揭示排名联邦学习同样存在特定脆弱点,且攻击效率极高,对设计更稳健的联邦学习系统有重要警示。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Chengcai Gao, Zhihong Sun, Xiaochuan Shi, Qiufeng Wang, Chao Liang

本文针对检索增强生成(RAG)系统面临的安全威胁,提出了一种名为BiRD(双向排序防御机制)的新型防御方法。研究首先识别了现有防御手段(如基于语义分析或投票机制)的核心局限性:它们仅关注语义内容相关性,而忽略了由排序结构定义的检索上下文。通过对被毒化文档与良性文档的双向排序行为分析,作者发现了一个关键区分模式:被毒化文档的反向排序与查询的正向排序之间表现出显著更强的对齐性。利用这一发现,BiRD构建了一个双信号框架,其中正向排序用于评估语义内容相关性,反向排序用于量化排序上下文的一致性,从而同时实现了高效性和鲁棒性。在3个数据集、3种检索器和3种大语言模型上,针对2种攻击场景的广泛评估验证了BiRD的有效性。特别地,BiRD将PoisonedRAG攻击的成功率降低高达54%,同时将任务准确率提升高达56%,且平均额外延迟低于1秒。该工作为RAG系统的对抗性防御提供了新思路,适合研究对抗机器学习、RAG安全以及信息检索的学者和工程师阅读。

💡 推荐理由: RAG系统正面临日益严重的对抗性攻击,现有防御存在计算成本高或鲁棒性不足的问题。BiRD利用双向排序模式差异,以低延迟实现高防御效果,为实际部署提供了可行方案。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)