TRAP: Benchmark for Task-completion and Resistance to Active Privacy-extraction
本文提出了一个名为TRAP (Task-completion and Resistance to Active Privacy-extraction) 的基准测试框架，用于评估AI代理在涉及敏感隐私信息的文档处理场景中，平衡任务完成准确性与
#privacy
共收录 546 条相关情报。
← 返回所有主题Safeguarding Graph Neural Networks against Topology Inference Attacks.
图神经网络（GNN）在基于图结构的数据学习中表现出强大能力，但其广泛应用引发了严重的隐私问题。尽管已有研究主要关注边级隐私（如边是否存在），但图拓扑结构（即图的整体形状）的机密性是一个关键但未被充分探索的威胁。本文首次系统研究了GNN中的拓
Ghost Vectors: Soft-Deleted Embeddings Remain Reconstructible in HNSW Vector Databases
本文针对检索增强生成（RAG）流水线中广泛使用的分层可导航小世界（HNSW）向量数据库，揭示了软删除操作的严重安全隐患。当用户请求删除数据时，系统通常仅将记录标记为已删除，而实际嵌入在磁盘上保持不变，这违反了GDPR第17条和HIPAA等数
Security and Privacy Prompts in the Wild: What Users Ask LLMs and How LLMs Respond
本研究首次系统性地分析了用户向大型语言模型（LLM）提出的数字安全与隐私（S&P）问题以及LLM的响应质量。研究基于WildChat数据集（包含320万条用户-LLM对话），从中识别出14,727条S&P提示，并将其分为九个类别，涵盖账户安
Differential Privacy of Gaussian Process Posterior Sampling
本文研究了在高斯过程（GP）后验采样中释放样本路径的隐私保护问题，其中整个训练集（包括协变量和响应）被视为私密信息。与传统差分隐私（DP）机制通过添加外部噪声不同，后验采样本身具有随机性。作者证明这种内在随机性能够提供差分隐私保证，具体通过
Children Are Not the Enemy: Child-Fit Security as an Alternative to Bans and Surveillance
该论文关注儿童在数字环境中的安全问题。当前主流做法依赖于限制性机制，如禁令、年龄门控、家长控制、监控和屏幕时间限制。作者认为这些方法将儿童视为需要被排除的攻击者、需要修补的漏洞或需要管理的风险，忽略了儿童作为数字技术的合法使用者。论文提出“
Deceptive Deletions for Protecting Withdrawn Posts on Social Media Platforms.
在社交媒体平台上，用户常因过度分享不恰当的想法或个人隐私而后悔，并倾向于删除这些内容以弥补过失。然而，删除行为本身反而成为恶意攻击者追踪隐私信息的信号：攻击者通过大规模监控删除操作，能够识别出被删除内容可能对用户有害，从而侵犯用户隐私。现有
Di5Guise: 5G Privacy with vSIM
论文提出 Di5Guise 隐私增强架构，解决 5G 网络中 eSIM 设备身份与订阅者身份固定绑定导致的可关联性隐私问题。当前 eSIM 具有固定设备配置文件（包含密钥、证书、唯一 eUICC 标识符），该配置文件永久绑定设备上所有订阅配
Cross-Silo De-Anonymization Under Local Differential Privacy: Threat Model, Phase Transition, and Coordination Necessity
本文研究在本地差分隐私保护下，跨多个独立数据孤岛的去匿名化攻击威胁。当一个人的记录出现在k个各自满足(ε,δ)-差分隐私的孤岛中时，标准组合机制提供(kε, kδ)-DP保证，但这一最坏情况边界无法回答具体推断问题：在多大的k下，攻击者能实
From Third-Party to First-Party: Measuring and Protecting Against Modern Web Tracking Mechanisms
本文针对网络追踪从第三方追踪向第一方追踪（FPT）和服务器端追踪（SST）的转变进行了大规模测量研究。随着隐私法规和浏览器限制的加强，追踪者将逻辑迁移到浏览器的第一方上下文或网站后端，使得传统客户端检测工具失效。作者开发了一种独立于供应商的
TrustErase: Auditable Instant Machine Unlearning with Passport-Embedded Representations
随着隐私合规AI需求的增长，机器遗忘变得愈发重要。然而，现有的基于重新训练或知识蒸馏的方法不仅计算成本高，而且难以验证。本文提出了TrustErase，一个可验证的无数据遗忘框架，利用护照嵌入表示实现即时、模块化且可审计的遗忘。核心思想是将
Attribute Inference from Interactive Targeted Ads
本文研究了交互式定向广告系统中的属性推断问题。在定向广告中，广告商可以选择特定受众群体，并将广告投放与用户可见的交互行为（如点击、浏览）关联。当这些交互行为与发起该交互的广告活动保持关联时，广告商可能获得与特定用户相关的观测数据，而不仅仅是
VLALeaks: Membership Inference Attacks against Vision-Language-Action Models
本文首次系统性地研究了视觉-语言-动作（VLA）模型在会员推断攻击（MIA）下的隐私脆弱性。VLA模型通过融合视觉、语言和动作信号实现端到端机器人控制，但训练数据的高昂采集成本使得数据记忆引发的隐私泄露和知识产权侵权问题尤为突出。会员推断攻
PFirewall: Semantics-Aware Customizable Data Flow Control for Smart Home Privacy Protection.
本文提出了一个名为PFirewall的智能家居隐私保护系统，旨在解决物联网平台中用户敏感设备数据过度暴露的问题。在现有智能家居平台上，设备一旦绑定，所有数据都会流向上层平台，而其中大部分数据并不触发自动化动作，导致不必要的隐私泄露。PFir
From Prompts to Responses: Dual-Sided Data Leakage and Defense in Split Large Language Models
该研究聚焦于分割式大语言模型（Split-LLM）中的数据泄露与防御问题。在隐私敏感场景中，用户面临两难：使用外部API可能泄露隐私数据，而本地部署则计算成本高昂。分割学习（Split Learning）作为一种折中方案，将模型切分，客户端
"In Eighty Percent of the Cases, I Select the Password for Them": Security and Privacy Challenges, Advice, and Opportunities at Cybercafes in Kenya.
该论文通过实地调查和半结构化访谈，深入研究了肯尼亚网吧（cybercafe）中用户和工作人员面临的安全与隐私挑战。研究在肯尼亚的两个城市（内罗毕和基苏木）进行，共调查了200名用户和26名网吧工作人员。主要发现包括：（1）高达80%的用户在
Fed-FBD: Federated Functional Block Diversification for Isolation, Privacy, and Surgical Unlearning
联邦学习（FL）允许多方协作训练模型而不共享原始数据，但标准方法（如FedAvg）将每个客户端视为黑盒，无法隔离对抗性贡献者、审计每个客户端的影响，或尊重已退出参与者的被遗忘权。本文提出Fed-FBD（联邦功能块多样化），一种模块化联邦架构
OCELOT: Inference-Leakage Budgets for Privacy-Preserving LLM Agents
该论文提出 OCELOT，一种用于保护 LLM Agent 隐私的运行时中介系统。LLM Agent 在执行用户任务时，需要读取个人文件、调用工具、与外部服务交互，这可能导致个人身份信息（PII）在多个信任边界间泄露。隐私问题在这里具有三个
A Public and Reproducible Assessment of the Topics API on Real Data.
本研究对谷歌提出的Topics API进行了公开、可重复的评估。该API旨在替代第三方Cookie，通过浏览器根据用户浏览历史推断出少量兴趣主题，供广告商实现定向广告，同时声称保护用户隐私。此前的研究争议集中在数据集真实性和结果可重复性上：
Zapper: Smart Contracts with Data and Identity Privacy.
本文提出Zapper，一个旨在为智能合约提供数据和身份隐私保护的系统。在区块链环境中，智能合约的执行数据通常对所有节点公开，这导致敏感信息（如交易金额、用户身份）面临泄露风险。Zapper通过集成先进的密码学技术（如零知识证明、同态加密或安