#LLM security

共收录 7 条相关情报。

学术论文2026-07-08 发布INFO

大型语言模型（LLM）正越来越多地被部署为自主代理，通过模型上下文协议（MCP）与外部工具和服务交互。MCP作为一种标准化接口，简化了工具集成，但也扩大了攻击面，使得针对多个服务器的通用利用成为可能。尽管已有工作研究恶意MCP服务器，但MC

历史摘要 · 未重新核验 · arXiv cs.CR

学术论文2026-07-06 发布INFO

该论文针对参数高效微调（PEFT）中的安全风险，特别是微调投毒攻击，提出了一种子空间约束的微调方法。研究背景是：PEFT虽然只更新少量参数，但仍有足够能力表示恶意行为，使得投毒目标函数可被优化。为此，作者从现有任务适配器的可信池中估计出一个

历史摘要 · 未重新核验 · arXiv cs.CR

学术论文2026-06-26 发布INFO

本文提出了一种名为 Tree of Evidence (ToE) 的分层可解释声明验证框架，用于自动事实核查，以应对虚假新闻尤其是生成式引擎优化（GEO）投毒下AI生成错误信息的威胁。ToE 将每个声明建模为一个动态扩展的论证树，通过集成强

历史摘要 · 未重新核验 · arXiv cs.CR

学术论文2026-06-12 发布INFO

本文研究了文档到LLM应用（例如用户上传PDF供LLM分析）中的语义完整性威胁。作者指出，这类应用通常通过一个用户无法观察或审计的隐藏提取层将PDF转换为文本。他们发现该层使得“分裂视图PDF”成为可能：同一个PDF在渲染视图（用户看到的内

历史摘要 · 未重新核验 · arXiv cs.CR

学术论文2026-05-21 发布HIGH

该论文首次对真实世界中远程MCP（模型上下文协议）服务器的认证安全性进行了大规模测量研究。MCP正成为连接大语言模型与外部服务的通用接口，尤其是在智能体需要访问用户在线服务（如社交媒体、生产力工具、金融服务）时，远程部署变得越来越重要。然而

历史摘要 · 未重新核验 · arXiv cs.CR

学术论文2026-05-07 发布INFO

该论文系统性地研究了检索增强生成（RAG）系统在知识库投毒攻击下的鲁棒性，重点关注不同RAG架构之间的差异。现有攻击几乎只在简单的“检索-生成”流水线上测试，而本文首次评估了四种典型RAG架构：vanilla RAG（标准流水线）、agen

历史摘要 · 未重新核验 · arXiv cs.CR

学术论文2026-04-29 发布INFO

随着大型语言模型（LLM）被越来越多地集成到浏览、检索、总结网页内容并据此采取行动的系统中，网页已成为模型行为的不可信输入向量。这使网站所有者、贡献者和攻击者能够直接在网页资源中嵌入指令，即间接提示注入。尽管先前的工作在受控环境中展示了此类

历史摘要 · 未重新核验 · arXiv cs.CR