共收录 546 条相关情报。
← 返回所有主题本文是一篇关于检索增强生成(RAG)系统安全与隐私的综合性综述。RAG通过将外部知识库与大型语言模型结合，显著提升了事实性和适应性，但也引入了传统语言模型威胁之外的新风险。论文首先介绍了RAG的典型架构，包括集中式、设备端(Micro-RA
本文提出了HelpBench，一个用于评估大型语言模型（LLM）在数字隐私、安全和安全建议方面提供准确帮助能力的基准测试。研究团队从真实用户场景中精选了450个问题，涵盖账户恢复、双因素认证权衡、可疑邮件识别、设备追踪等典型情境。针对每个问
Eye-Shield 是一种针对移动设备屏幕信息的实时保护方案，旨在防御肩窥攻击。肩窥攻击是指攻击者通过偷窥用户屏幕获取密码、PIN码、浏览行为等敏感信息，而用户在公共场所使用手机时极易遭受此类攻击。Eye-Shield 利用人眼视觉特性，
该论文聚焦于在物联网环境下，DNS over HTTPS/3（DoH/3）协议对网站指纹攻击的脆弱性研究。随着隐私保护日益重要，DoH和DoT等安全DNS协议被广泛部署，但仍面临网站指纹攻击的威胁。DoH/3作为HTTP/3上的DNS加密协
这篇论文提出了一种名为“循环去噪”（cyclic denoising）的新型提取攻击方法，用于从图像扩散模型中提取训练数据中的记忆化图像。该方法受无序固体中随机组织的启发，通过在受控噪声幅度下重复进行前向和反向扩散过程，使得样本被驱动向具有
该论文针对扩散模型在公开部署场景（如开源库或发布检查点）下面临的严重安全风险——即任何获取中间潜在表示的用户都能逆推恢复原始输入图像——提出了一种密钥控制逆推框架。不同于以往假设黑盒模型（参数保密）的访问控制研究，本文首次在白盒设置下（所有
本文针对图数据节点分类任务中的隐私泄露问题，提出了一种名为LPGNet的新型神经网络架构。图卷积网络（GCNs）在节点分类中表现出色，但研究表明攻击者可以通过链接窃取攻击推断训练图中的边（即节点间关系），即使仅有黑盒模型访问权限。LPGNe
本文是一项针对德国公民的调查研究，旨在了解公众对客户端扫描（Client-Side Scanning, CSS）技术用于打击网络犯罪的态度。近年来，苹果公司于2021年宣布计划部署CSS，欧盟也于2022年提出相关立法，引发了关于隐私与安全
本文针对 WhatsApp 的握手协议（Prekey 机制）进行了安全与隐私分析。研究背景是端到端加密通信中密钥协商的安全重要性。论文核心问题包括：Prekey 交换是否存在信息泄露、是否可被中间人攻击利用、以及隐私保护是否充分。方法上，作
联邦学习（FL）因其在本地训练模型并保护隐私的能力而在各行业广泛流行。然而，FL系统容易受到隐私推断攻击和投毒攻击，这两类攻击可能由恶意参与者破坏系统。尽管已有大量工作分别应对这些攻击，但对两者组合攻击的研究关注有限。为填补这一空白，本文提
联邦学习（FL）允许多方协作训练模型而不共享原始数据，但分布式特性使其易受后门攻击——恶意客户端在本地训练数据中嵌入隐藏触发器，操纵模型预测。现有防御主要在聚合前或聚合中生效，无法完全消除收敛后全局模型中残留的后门行为。此外，服务器在训练后
本文提出并研究了零知识训练证明（zkPoT）的概念，旨在解决模型所有者如何在保护训练数据集和最终模型隐私的前提下，向验证者证明其模型是按照正确规范训练的。作者首先形式化了zkPoT的安全定义，包括完备性、可靠性和零知识性等属性，为隐私保护的
本文提出了一种名为“语义非组合”（Semantic Non-Assembly, SNA）的新型隐私保证框架。与传统的基于保密性、访问控制或统计披露限制的隐私模型不同，SNA 从“暴露发生时信息收益”的角度定义隐私：即使攻击者能够完全暴露和解
本文提出了一种名为 π-RAG 的新型架构，旨在解决传统检索增强生成（RAG）系统中向量嵌入暴露于潜在反转攻击和非确定性检索失败的问题。核心创新在于利用数学常数 π 的数字作为超然熵源，构建一个不可变的间接层，将大型语言模型（LLM）与敏感
本文提出了一种将生产环境安全信息与事件管理（SIEM）数据转化为可复用网络安全工件的方法论。研究背景是：安全运营中心（SOC）的生产遥测数据是最真实的，但由于隐私和机密性限制，原始日志无法公开，导致安全研究长期依赖合成数据集或过时数据，缺乏
随着大语言模型（LLM）的广泛部署，模型上下文协议（MCP）已成为连接LLM与外部资源的事实标准。然而，MCP协议本身引入了一类隐私泄露风险，现有工具难以检测。与传统的显式数据泄露不同，MCP服务器中的泄露主要是协议诱导的：凭据、API密钥
本文提出了一种实用的隐私保护SSH认证方案。传统的SSH认证通常需要服务器验证用户身份，但在这个过程中，服务器会获得用户的一些身份信息（如公钥），这可能导致用户隐私泄露。为了解决这一问题，作者设计了一种基于不经意伪随机函数（OPRF）和零知
本文研究网络交换机中数据包调度算法的隐私泄露问题。现有的调度算法如FIFO和赤字轮询（DRR）虽然能提供良好的利用率或公平性，但会通过时序侧信道泄露信息，导致用户隐私暴露。作者提出了一种新的混合调度机制——无差别优先调度（Indiffere
这篇论文揭示了联邦学习（FL）在语言模型微调过程中的隐私后门攻击风险。在联邦学习中，多个参与者协作微调模型而不共享原始数据，但全模型微调计算成本高昂，因此参数高效微调（PEFT）成为实际应用中的主流方法，它冻结基础模型仅训练少量适配器。本文
网站指纹（WF）攻击严重威胁匿名网络（如Tor）用户的隐私。尽管已有多种防御方案，但面对基于深度学习的先进WF攻击，现有防御效率不足。本文提出Palette，一种新颖且实用的实时WF防御方法，通过流量簇匿名化保护实时Tor流量。核心思想是将