Beyond Private Training: The New Landscape of AI Privacy
该论文聚焦检索增强生成（RAG）系统中的隐私删除问题。当前大量 RAG 应用依赖基于图的近似最近邻（ANN）向量索引，这类索引在收到删除请求后，往往只是把被删除的向量 ID 从返回结果中过滤掉，索引的搜索图本身并不会立即重建。作者指出，这种
#vector-database
共收录 6 条相关情报。
← 返回所有主题Atlas: Efficient Verifiable Semantic Search
该论文关注语义检索的可验证性问题。现代应用的推荐系统、网页搜索与大模型 RAG（检索增强生成）都依赖语义检索：服务提供方掌握索引并执行查询，客户端只能被动信任结果确实由约定算法在指定索引上产生。恶意或成本敏感的提供方可能截断检索结果、引入排
SHARD: cell-keyed residual splitting for alignment-resistant private dense retrieval
该论文提出了一种名为 SHARD 的防御方法，旨在保护密集向量检索（如语义搜索和 RAG）中的嵌入向量不被反演攻击。现有攻击利用密集嵌入的全局几何结构，通过少量已知对齐对即可恢复秘密全局旋转（正交 Procrustes 方法）。SHARD
Hybrid privacy-aware semantic search: SVD-truncated document geometry and CKKS-encrypted query reranking under a restricted threat model
本文研究了一种混合隐私保护的语义搜索方案，旨在解决稠密向量嵌入在向量数据库泄露时面临的嵌入-反演攻击（即从向量重构原始文本）问题。传统的防御手段存在两个极端：完全同态加密虽然安全性强，但在百万级文档规模下延迟过高；而添加隐私噪声会在保护效果
Ghost Vectors: Soft-Deleted Embeddings Remain Reconstructible in HNSW Vector Databases
本文针对检索增强生成（RAG）流水线中广泛使用的分层可导航小世界（HNSW）向量数据库，揭示了软删除操作的严重安全隐患。当用户请求删除数据时，系统通常仅将记录标记为已删除，而实际嵌入在磁盘上保持不变，这违反了GDPR第17条和HIPAA等数
VectorSmuggle: Steganographic Exfiltration in Embedding Stores and a Cryptographic Provenance Defense
现代检索增强生成（RAG）系统将敏感内容转换为高维嵌入向量并存储在向量数据库中，这些数据库将产生的数值视为不透明数据。主流向量存储产品缺乏针对嵌入完整性、摄入时分布异常检测或加密来源证明的原生控制。本文揭示了一类隐写泄露攻击：拥有摄入管道写