Manifest-Assisted Retrieval in Artificial Intelligence Search: Evidence Gaps and a Security Evaluation
The external sources retained in our non-systematic audit did not isolate the incremental security or utility effect of
#cs.IR
共收录 72 条相关情报。
← 返回所有主题Factual Yet One-Sided: Stance Poisoning and Evidence Balancing in Retrieval-Augmented Generation
The stance expressed in responses from retrieval-augmented generation systems is significantly influenced by the stance
Holo-NN: Holographic Nearest Neighbor Search via Compressive Sensing
In the age of AI, privacy-preserving approximate nearest neighbor (ANN) search over high-dimensional embeddings has emer
Data-Void Exploits in Web-Searching LLMs
Web-searching Large Language Models (LLMs) have changed how users seek online information: instead of sifting through ra
Protection Is Not One Event: A Survey of RAG Protection Research by Measured Endpoint
Retrieval-augmented generation (RAG) systems face security, privacy, and copyright risks including content leakage, sour
On-Chain Archaeology of Bitcoin Oracles: Evidence of Use under Limited Observability
Before Ethereum made the "oracle problem" a household term, Bitcoin already had oracles serving as feeds, key-release se
Safer Content or Firmer Refusals? A Hybrid Perturbation Defense for Alignment under Harmful Fine-tuning
该论文研究"微调即服务"(Fine-tuning-as-a-service)场景下的有害微调(harmful fine-tuning)攻击面: 用户在对齐后的语言模型上用自有数据做微调时, 只需在大量良性样本中混入少量有害数据, 就足以削弱
Does the Unsafe Gradient Survive a Conversation? On the Fragility of Gradient-Based Jailbreak Detection in Multi-Turn Dialogue
该论文研究的是多轮对话场景下基于梯度的越狱（jailbreak）检测器是否依然有效。背景在于：安全对齐的大模型通常以多轮助手形式部署，攻击者可以把恶意意图拆散到多个用户轮次中，而不是塞进单条提示；而 GradSafe 这类基于梯度的越狱检测
Seal, Then Sample: Sampled Layerwise Proofs for Verifiable LLM Inference from GPT-2 to 70B
该论文研究的是「外包大模型推理的可验证性」问题：当用户把推理任务交给第三方服务（云厂商、推理市场）时，如何让服务方向验证者证明其确实执行了指定模型的指定计算，并且没有篡改输出，同时把审计成本压到服务方可承受的水平。作者提出 Sampled
Automated Extraction of Records of Processing Activities (RoPA) Using Hybrid RAG and Locally Deployed Large Language Models
该论文针对越南《个人数据保护法》(第 91/2025/QH15 号) 及第 356/2025/ND-CP 号议定 (2026 年 1 月 1 日生效) 强制要求组织建立并维护《处理活动记录》(RoPA) 这一合规义务展开研究。RoPA 的痛
Trust, but Validate the Instrument: Auditing AI-Generated RTL Verification Plans on Authored Security-Regression Proxies
该论文研究 AI 生成 RTL 验证计划在硬件安全场景下的可信度问题。作者指出:大模型生成的验证计划即使通过了服务商(provider)的响应 schema 校验,也可能在进入可信执行环节时失败,即「schema 合规」不等于「执行有效」。
Beyond Private Training: The New Landscape of AI Privacy
该论文聚焦检索增强生成（RAG）系统中的隐私删除问题。当前大量 RAG 应用依赖基于图的近似最近邻（ANN）向量索引，这类索引在收到删除请求后，往往只是把被删除的向量 ID 从返回结果中过滤掉，索引的搜索图本身并不会立即重建。作者指出，这种
SEEK: Secure and Efficient Encrypted Keyword Search For Privacy-Preserving Messaging Protocols
端到端加密通信在保护用户隐私的同时，也让平台难以发现其中传播的有害或违法内容，形成“内容检测”与“端到端隐私”之间的根本矛盾。针对该矛盾，作者提出 SEEK——一种面向隐私保护消息协议的高效加密关键词搜索协议，将同态加密（HE）与安全两方计
Evaluating Deep-Search Agents under Hierarchical Web Evidence Poisoning
随着搜索增强型大语言模型（LLM）智能体被广泛用于消费者决策场景，其面临的生成引擎优化（GEO）投毒攻击风险日益突出。现有安全评测基准大多只关注被操纵的内容是否被检索或认可，并未跟踪智能体是否验证可疑证据、是否修正已采纳的错误观点、以及在生
Spruce: Scalable Private Outsourced Retrieval Using Compact Embeddings
本文提出 Spruce，一种可扩展的私有外包检索方案，针对检索增强生成（RAG）中大规模文档集合的密集检索场景。随着组织将向量索引外包给不可信云，专有语料库与用户查询面临泄露风险。密码学保护面临挑战：每次查询需搜索语料库规模的状态，导致计算
Counter-GEO-Bench: Evaluating Defenses Against Information-Distorting Generative Engine Optimization
生成式引擎优化（GEO）是一种通过操纵网页内容来提升其在生成式搜索引擎中可见度的技术，类似针对传统搜索引擎的SEO。然而，该技术可被攻击者滥用：他们制作看似普通但经过特殊优化的文档，当受攻击的大语言模型（LLM）在检索增强生成过程中获取并综
NeuroGraph: An AI Graph-Driven Neuro-Symbolic Framework for Explainable Threat Reasoning in Advanced Manufacturing
本文针对先进制造业中日益复杂的网络物理攻击面与威胁情报分析难题，提出了一种基于图谱的神经符号推理框架 NeuroGraph。尽管大语言模型（LLM）与检索增强生成（RAG）已显著改善威胁情报工作流，但仍存在幻觉问题，并且难以对相互关联的威胁
TRIS: A Tri-Layer Retrieval Integrity Sieve Against Knowledge Poisoning
这篇论文提出了一种针对检索增强生成（RAG）系统的知识投毒攻击防御框架。研究背景是：RAG通过外部语料库为大型语言模型提供事实依据，但系统对检索文档的隐式信任构成了严重攻击面。已有研究（如PoisonedRAG）表明，仅需少量精心构造的恶意
Pointing the Way, Hiding the Destination: Practical Private Dense Retrieval at Scale
本文提出了一种实用的私有密集检索方案，用于托管式检索增强生成（RAG）和语义搜索场景。研究背景是：用户希望查询提供方持有的有价值的语料库，但存在两个相互矛盾的需求：一方面需要隐藏用户的查询和最终选择的结果，另一方面又只能向用户展示其被授权访
RAGSentinel: Certifiable Geometric Consensus for Robust Retrieval-Augmented Generation
检索增强生成（RAG）通过引入外部文档来提升大语言模型的事实性，但同时也引入了新的安全攻击面：恶意攻击者可以向知识库注入经过精心构造的对抗性文档，这些文档一旦被检索并进入上下文窗口，就可能引导模型输出特定的错误答案。现有的后检索防御手段，例