#retrieval

共收录 4 条相关安全情报。

← 返回所有主题
👥 作者: Haozhe Lu, Jiaqi Li, Xinyuan Zhu, Xiang Li

该论文研究检索增强生成(RAG)系统中的知识投毒风险。RAG 通过外部证据为大型语言模型(LLM)的输出提供依据,提升事实性,但同时也把外部知识库变成了攻击面。既有代表性攻击通常需要注入多篇文档,或使用直接断言目标答案的模板化文本,成本和可检测性较高。作者提出 ToxicRAG,一种“每个目标仅需一篇文档”的单次知识投毒攻击,其核心思路是把虚假信息包装成连贯的“知识更新”叙事:文档首先承认此前被广泛接受的答案,然后引入虚构事件使该答案看似已经失效,最后把攻击者选定的答案归因于一组所谓的权威来源,从而让投毒内容在语义上更自然、更像正常的知识演进。ToxicRAG 还包含一个可选的、以答案为中心的自验证循环:当代理语言模型无法复现目标答案时,攻击者据此修订候选文档,直至其更可能诱导受害者模型给出目标答案。实验方面,作者在 Natural Questions、HotpotQA 和 MS-ARCO 三个数据集上各取 100 个目标问题,使用 4 个受害 LLM 和 4 种稠密检索器,共 12 个数据集—模型组合。在论文所报告的采样语料设置下,ToxicRAG 的攻击成功率(ASR)介于 0.61 到 0.91 之间,并且在每一个组合中都达到或超过评估中最强的基线,领先幅度为 0 到 11 个百分点。论文的主要贡献在于:证明叙事形式的单文档投毒在受评估的 RAG 配置下仍具有显著影响力,揭示 RAG 在事实一致性和来源溯源方面的脆弱性,并呼吁进一步研究相关防御机制。适合 RAG 系统研发者、LLM 安全研究者与蓝队威胁建模人员阅读。

💡 推荐理由: 该研究把 RAG 知识投毒成本降到“每个目标一篇文档”,且用叙事化手法规避直接断言带来的可疑特征,对依赖外部知识库的企业问答、客服与搜索类 LLM 应用构成现实威胁;蓝队需要重新评估知识写入通道与检索结果的信任边界。

🎯 建议动作: 研究跟进,并将叙事式单文档知识投毒纳入内部 RAG 安全评估基线

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Yang Gao, Gang Quan, Scott Piersall, Qian Lou, Dongdong Wang, Liqiang Wang

本文提出了一种名为 GoldenRetriever 的隐私保护检索增强生成(RAG)框架,旨在解决传统 RAG 流水线在明文数据上运行导致的隐私泄露问题。现有隐私保护检索方案多采用同态加密(HE)或私有信息检索(PIR),但往往依赖交互式协议或基于排序的选择机制,导致高延迟和潜在信息泄露。作者提出基于阈值选择的非交互式加密检索方法:不再在密文下执行昂贵的 top-k 排序,而是选取相似度得分超过预设阈值的文档,从而将计算复杂度从 O(n^2) 降至 O(n)。实现上基于 CKKS 同态加密方案,支持完全加密的相似度评估和文档选择,不泄露查询内容、中间分数或选中索引。为解决近似加密计算与离散 token 重构之间的精度差距,作者设计了精度稳定的掩码极化方法,确保选中文档能够被准确恢复。在标准检索基准上的实验表明,该方法在显著降低延迟的同时保持了有竞争力的检索效果,凸显了阈值选择作为可扩展、安全 RAG 系统的实用基础。

💡 推荐理由: 该研究为构建隐私保护的 RAG 系统提供了新的非交互式方案,能降低延迟并减少信息泄露风险,对需要处理敏感数据的大模型应用具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Guo-Wei Wong, Yi-Ting Huang, Ying-Ren Guo, Ming-Chuan Yang, Shou-De Lin, Wang-Chien Lee, Meng Chang Chen

该论文聚焦于从系统活动图中检索已知高级持续性威胁(APT)活动的任务。在现实运维环境中,系统活动图(节点代表MITRE ATT&CK技术,边表示时间或资源级别的关联)常因检测不完整、技术误分类以及良性行为引入的结构伪影而包含噪声。传统基于精确图匹配的方法在噪声环境下鲁棒性差。为此,论文将问题形式化为已知APT查询图与含噪声、部分观测的技术图之间的近似子图匹配。作者提出了一种基于嵌入的初步检索方法,通过将图结构转换为低维向量表示,在向量空间中进行相似度搜索,以容忍噪声和缺失边。该方法旨在为实际环境中已知APT活动的检索提供鲁棒且实用的框架。实验部分(摘要未详述)应验证该方法在合成噪声数据上的有效性。该工作适合安全分析师、威胁情报研究员及图分析在网络安全应用中的开发者阅读。

💡 推荐理由: 将APT检索转化为近似图匹配问题,并引入嵌入方法应对噪声,为实际告警日志中提取攻击模式提供了新思路。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Yan Lin Aung, Kevin Togbe

该论文提出了 CyBOKClaw,一种可解释的人机协同检索框架,用于将网络安全课程中的关键词或短语(KWoPs)映射到网络安全知识体系(CyBOK)。传统的精确匹配方法在应对教育场景中广泛、模糊且仅近似对齐的术语时效果有限。CyBOKClaw 被设计为 top-k 候选生成器,供专家审核,而非严格的精确分类器。它综合运用了查询规范化、策划的术语扩展、概念级提升、主题描述丰富以及领域敏感的排序规则。评估采用结构检索指标和专家引导的 top-5 有用性指标 ECA-5(Exact or Closest Acceptable Match at top-5),该指标记录返回的候选集中是否包含至少一个专家认为精确或最接近实际 CyBOK 位置的映射。在开发集上,CyBOKClaw 达到了 64.73% 的 EXA-5(top-5 精确匹配)、84.18% 的结构语义对齐以及 91.88% 的 ECA-5;在验证集上,分别达到 81.19% 的 EXA-5、93.32% 的结构语义对齐和 98.00% 的 ECA-5。结果表明,专家引导的 top-k 有用性比仅精确结构匹配更能忠诚地反映实际 CyBOK 映射的效用,并且 CyBOKClaw 作为 CyBOK 特定的专家支持检索系统是有效的。

💡 推荐理由: 帮助教育者和课程设计者高效、准确地对齐课程内容与标准化网络安全知识体系,提升课程质量与认可能力。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)