Divide and Doubt: Diverse Distributed Poisoning for Retrieval-Augmented Generation
本文关注检索增强生成（RAG）系统中的语料投毒威胁：由于 RAG 会把外部语料检索后拼接进 LLM 上下文，攻击者只需向知识库注入少量文档，就可能操纵模型对特定问题的回答。此前针对开放域问答的多段落投毒研究，普遍把同一个目标论断反复写入风格
#retrieval-augmented-generation
共收录 10 条相关情报。
← 返回所有主题RAGSentinel: Certifiable Geometric Consensus for Robust Retrieval-Augmented Generation
检索增强生成（RAG）通过引入外部文档来提升大语言模型的事实性，但同时也引入了新的安全攻击面：恶意攻击者可以向知识库注入经过精心构造的对抗性文档，这些文档一旦被检索并进入上下文窗口，就可能引导模型输出特定的错误答案。现有的后检索防御手段，例
CTIFoundry: An Agent-Native Corpus Scaffold for Cyber Threat Intelligence
该论文提出 CTIFoundry，一个面向智能体（agent）的网络安全威胁情报（CTI）语料库脚手架。研究背景是：CTI 的消费正从人类分析师转向 LLM 智能体，后者在查询时组合多步调查流程。虽然智能体侧的规划循环、工具协议、上下文管理
COMA: A Compositional Misleading Attack Class on Security-RAG, and a Causal Counterfactual Defense
该论文研究检索增强生成（RAG）在安全运营中心（SOC）分析师面向上机助手（copilot）场景中的安全漏洞。作者发现并定义了一类名为 COMA（Compositional Misleading Attack）的攻击：即使每个检索到的文档都
Private Anytime Selective-Risk Certification for Federated Retrieval-Augmented Generation: Guarantees and Empirical Limits
本文提出 Fed-SRC，一种面向联邦检索增强生成（Retrieval-Augmented Generation, RAG）的私有任意时间选择性风险认证框架。选择性风险证书的核心承诺是：所有被模型接受的输出都能满足预设的错误率目标。与以往依
FidelityGPT: Correcting Decompilation Distortions with Retrieval Augmented Generation.
反编译是将机器码转换为人类可读格式的关键技术，在缺少源码时辅助分析与调试。然而，反编译结果存在保真度问题，影响可读性和准确性。现有方法如变量重命名和结构简化只能部分解决，尤其在复杂的闭源二进制场景下，缺乏有效的检测和校正。为此，我们提出 F
ScoreShield: Differentially Private Release of Similarity Scores
本文提出 ScoreShield，一种差分隐私（DP）机制，用于安全发布向量嵌入之间的余弦相似度分数，适用于生物识别、检索增强生成（RAG）等应用。现有方法简单添加独立同分布高斯噪声会导致严重失真且隐私预算随分数数量平方级增长。ScoreS
Grounded Cache Routing for Retrieval-Augmented Generation: When Is It Safe to Reuse an Answer?
本文针对检索增强生成（RAG）系统中的缓存安全问题展开研究。现代RAG部署广泛使用缓存来降低token成本和时间至首token延迟（TTFT），其中前缀级KV复用已是标准做法，但输出级的语义答案缓存仍然脆弱：相似提示可能映射到不同正确答案，
From Detection to Response: A Deep Learning and Retrieval-Augmented Generation Framework for Network Intrusion Mitigation
该论文提出一个端到端统一框架，弥合了威胁检测与可操作响应之间的鸿沟。系统由两个紧密耦合的阶段组成：首先，一个由三个独立训练的二元深度神经网络（DNN）组成的集成模型对网络流量进行分类，区分良性、拒绝服务（DoS）和分布式拒绝服务（DDoS）
PRAG End-to-End Privacy-Preserving Retrieval-Augmented Generation
检索增强生成（RAG）通过引入外部知识显著提升了大型语言模型（LLM）的能力，但其在云环境中的部署面临敏感数据的隐私泄露风险。现有隐私保护方案往往因噪声注入而牺牲检索质量，或仅提供部分加密。本文提出PRAG，一种端到端隐私保护RAG系统，在