Walking the Embedding Space: Datastore Extraction from Multimodal RAG
多模态检索增强生成(MRAG)已成为将多模态大模型(MLLM)的生成能力锚定到相关、及时的外部知识的可靠且低成本手段。它在降低幻觉方面有明显收益,但同时引入了新的攻击面,包括私有信息泄露和针对数据抽取攻击的脆弱性。本文提出 IMMRAG,一
#data-extraction
共收录 3 条相关情报。
← 返回所有主题Loss Landscape Poisoning: Targeted Extraction of Unseen Training Data from LLMs
本文研究了一种针对大型语言模型（LLM）的新型训练数据提取攻击。攻击者通过投毒一小部分训练数据，能够诱导模型泄露一条攻击者无法访问的目标记录（例如私有医疗记录或用户对话）。核心洞察是：通过在目标完成点附近重塑模型的局部损失景观，使其成为尖锐
Memory Backdoor Attacks on Neural Networks.
本论文提出一种针对联邦学习的训练时后门攻击方式，使恶意服务器能够系统性地提取客户端完整训练样本。传统数据提取方法往往只能概率性重建或产生幻觉，无法精确恢复原始数据。该方法通过修改训练过程，在模型中嵌入一个后门触发器，当输入特定索引模式时，模