#retrieval-augmented-generation

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Syed Huma Shah

本文针对检索增强生成(RAG)系统中的缓存安全问题展开研究。现代RAG部署广泛使用缓存来降低token成本和时间至首token延迟(TTFT),其中前缀级KV复用已是标准做法,但输出级的语义答案缓存仍然脆弱:相似提示可能映射到不同正确答案,检索证据随语料更新而漂移,且存在对抗性碰撞攻击可劫持缓存响应。作者指出缓存答案复用的关键问题不在于如何更快复用,而在于何时复用是安全的。为此,他们提出GroundedCache——一种基于证据验证的缓存路由器,仅当四个廉价门控条件同时满足时才允许复用缓存答案:查询相似性、检索证据重叠、源版本有效性以及新检索证据对缓存答案的词汇(或基于评判器)支持。研究构建了一个六模态工作负载来压力测试缓存安全性而非仅关注命中率,并引入面向运营者的指标——不安全服务率(USR),即接收到错误缓存答案的查询比例。在2个数据集和12,000个真实LLM生成(使用vLLM和自动前缀缓存的Qwen2.5-7B-Instruct)上的实验表明,GroundedCache在HotpotQA的每个模态下将USR降至0.0%(而朴素缓存为15-35%),在mtRAG文档漂移下降至1.5%(对比51.5%),在对抗性模态下实现34倍减少,在其他mtRAG模态下减少3-10倍,同时端到端中位延迟保持在无缓存RAG基线的1.04-1.07倍。消融实验显示,词汇支持门控是两个数据集上的主要安全机制,其他门控以接近零成本提供深度防御。本文适用于RAG系统开发者、缓存设计者和安全研究者。

💡 推荐理由: 揭示了RAG中缓存答案复用的安全漏洞,提出一种轻量级验证机制,可显著降低不安全缓存服务率(USR),对保障RAG系统输出正确性至关重要。

🎯 建议动作: 研究跟进:评估将GroundedCache集成到现有RAG缓存栈的可行性。

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Md Navid Bin Islam, Sajal Saha, Senior Member

该论文提出一个端到端统一框架,弥合了威胁检测与可操作响应之间的鸿沟。系统由两个紧密耦合的阶段组成:首先,一个由三个独立训练的二元深度神经网络(DNN)组成的集成模型对网络流量进行分类,区分良性、拒绝服务(DoS)和分布式拒绝服务(DDoS)攻击,在CICIDS2018数据集上达到99.84%的准确率,在UNSW-NB15数据集上达到95.30%的准确率。其次,一个检索增强生成(RAG)管道从排名前五的异常特征构建解释感知的提示,从权威来源的知识库中检索语义和词汇最相关的指导,并引导本地部署的语言模型合成结构化、引用依据的缓解报告。实验表明,RAG增强的缓解报告在所有自动评估指标上均优于普通的大语言模型输出。该框架旨在直接回答安全分析师最关心的问题:下一步该怎么做?

💡 推荐理由: 现有入侵检测系统多止步于告警,缺乏可操作建议。该框架将检测与自动缓解报告生成结合,有望提升安全运营效率,减少人工研判负担。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zhijun Li, Minghui Xu, Huayi Qi, Wenxuan Yu, Tingchuang Zhang, Qiao Zhang, GuangYong Shang, Zhen Ma, Xiuzhen Cheng

检索增强生成(RAG)通过引入外部知识显著提升了大型语言模型(LLM)的能力,但其在云环境中的部署面临敏感数据的隐私泄露风险。现有隐私保护方案往往因噪声注入而牺牲检索质量,或仅提供部分加密。本文提出PRAG,一种端到端隐私保护RAG系统,在保持云托管RAG可扩展性的同时,实现文档和查询的端到端机密性。PRAG采用双模式架构:非交互式PRAG-I利用同态友好近似实现低延迟检索,而交互式PRAG-II借助客户端辅助达到与非隐私RAG相当的精度。为确保语义排序的鲁棒性,引入了操作误差估计(OEE)机制,以稳定对抗同态噪声的排序。在大型数据集上的实验表明,PRAG在保持端到端机密性的同时,实现了有竞争力的召回率(72.45%-74.45%)、实用的检索延迟以及对图重构攻击的强韧性。该工作证实了大规模安全高性能RAG的可行性。

💡 推荐理由: PRAG解决了云环境下RAG的隐私保护核心痛点,在不牺牲准确性和可扩展性的前提下实现了端到端机密性,为隐私敏感的LLM应用提供了实用方案。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)