#retriever

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Xinru Liu, Xianglong Zhang, Di Cai, Zhumin Chen, Pengfei Hu, Xin Xin

该论文针对检索增强生成(RAG)系统提出了一种新的模型中心攻击框架CAREATTACK,旨在通过编辑检索器模型而非操控语料库来注入恶意知识。RAG系统通常依赖外部知识库,现有攻击多通过构造恶意文本操纵语料库,但此类合成文本易被检测。CAREATTACK则直接攻击开源的密集检索模型,分为两个阶段:冲突感知检索器编辑和攻击保持锚点修复。第一阶段利用高效的闭式参数编辑技术,将恶意知识注入检索器,使其在检索时优先返回恶意文档,并通过基于图的冲突检测和参数编辑投影解决参数冲突,确保良性知识不受过度影响。第二阶段进行轻量级校准,消除对非目标提示的副作用,同时保持对目标提示的攻击有效性。论文在Qwen3-Embedding-0.6B和BGE-M3两个检索模型上,使用三个基准数据集进行实验,结果表明该方法能显著提升恶意文档在检索结果中的排名,并支持批量目标提示和文档的攻击。由于许多RAG系统基于开源检索模型构建,该工作揭示了实际攻击面,代码已公开。

💡 推荐理由: 该研究首次提出针对RAG系统检索器参数的模型中心攻击,不同于传统的语料库污染,具有更高的隐蔽性和可控性,迫使防御方关注检索模型本身的安全性。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)