CorrectGuard: Eyes-Off Correctness Estimation for Black-Box Security Guardrails
该论文聚焦 AI 服务中广泛部署的"黑盒安全护栏"(guardrail)的审计难题。现实中,出于隐私与合规要求,审计方往往处于两种受限状态:一是"人类不可见"(human eyes-off),即禁止人工查看用户输入内容;二是"机器不可见"(
#privacy-preserving
共收录 133 条相关情报。
← 返回所有主题ReCast: Contract-Preserving Protection for Fixed-Interface Multimodal Reasoning
远程多模态模型在图表与语音等固定媒体接口上的数值推理能力很强，但直接上传私有输入会导致敏感内容外泄。现有的纯文本脱敏无法满足固定媒体接口的格式要求，而身份匿名化又保留了任务内容本身。论文提出 ReCast——一种面向智能体的插件式保护框架，
Progressive-Resolution Secure Aggregation for Federated Learning
该论文聚焦联邦学习（FL）中的安全聚合（Secure Aggregation）机制，并指出其一个长期被忽视的功能性局限：在传统协议中，聚合结果的精度（分辨率）在客户端上传更新时就被一次性固定下来。也就是说，服务器与客户端在协议开始前必须就量
Analyzing 10 Petabit/s Network Data with Accelerated Associative (Token) Arrays
该论文来自 MIT 林肯实验室与 IEEE、Amazon 联合发起的「匿名网络感知图挑战赛（Anonymized Network Sensing Graph Challenge）」背景，聚焦一个规模化网络分析的核心工程问题：当网络成为现代社
Deduplication-while-Training: A Resilient Paradigm for Privacy-Preserving Cross-Client Deduplication in Federated Learning
在大语言模型训练语料中，跨客户端重复数据会降低联邦学习（FL）的效率，同时加剧模型记忆化与隐私泄露风险。隐私保护的跨客户端去重可清除重复训练数据，从而缓解该问题。然而现有方案均遵循“先去重、后训练”（Deduplication-before
A Data-Driven Analysis of Infostealer Malware Victims
信息窃取恶意软件（infostealer）在全球范围感染设备，并收割设备中最敏感的内容：凭据、浏览器会话、私钥和访问证书。然而，由于缺乏符合伦理、法律要求且经过策展的研究数据集，受害者影响一直难以被系统研究。为弥补这一空白，作者构建了一条隐
Only Pay What You Must Spend: On-Demand Privacy Budget Payment for Differentially Private RAG
该论文关注在敏感数据上通过检索增强生成（RAG）部署大语言模型（LLM）时引入的严重隐私风险。已有研究将差分隐私（DP）应用于 RAG 以提供形式化隐私保证，但现有 DP-RAG 框架会迅速耗尽隐私预算。作者指出一个关键错配：预算支出与模型
Pattern-level Differential Privacy for High-utility Complex Event Processing
该论文聚焦复杂事件处理（CEP）系统中的隐私保护问题。CEP 引擎从高速事件流中检测模式（如事件序列、时序关联、聚合条件），而现有的隐私保护机制（PPM）通常对整条数据流或单个事件施加统一噪声，限制性过强：隐私预算被平摊到大量与最终模式无关
TrustBOM: A Scalable Architecture for Confidentiality-Preserving SBOMs Across Organizations
该论文聚焦软件供应链治理中的一个现实矛盾:SBOM(软件物料清单)已成为企业架构中治理软件供应链的关键机制,但跨组织共享 SBOM 会暴露敏感的依赖信息(具体的第三方组件、版本、内部技术栈),出于商业机密与攻击面收敛的顾虑,供应商普遍不愿意
Multi-center Medical Data Mining with FL-Net - A One-stop Shop for Federated Learning
该论文聚焦于联邦学习在临床多中心研究中的落地难题。作者指出，联邦学习虽然能在不共享患者级原始数据的前提下实现多方协同建模，但绝大多数研究仍停留在仿真阶段，难以真正部署到跨医院的真实临床研究中。为厘清差距，作者先从文献中归纳出五项核心需求（涵
Scaling Zero Knowledge UNSAT Verification via Normalized Chaining
该论文关注形式化验证与软件保障中的基础原语——UNSAT 证明（不可满足性证明）。在实际工程中，SAT/SMT 求解器生成的证明往往编码了专有逻辑、内部约束或安全敏感信息，直接公开披露会导致知识产权泄露或攻击面暴露。零知识 UNSAT 认证
SEEK: Secure and Efficient Encrypted Keyword Search For Privacy-Preserving Messaging Protocols
端到端加密通信在保护用户隐私的同时，也让平台难以发现其中传播的有害或违法内容，形成“内容检测”与“端到端隐私”之间的根本矛盾。针对该矛盾，作者提出 SEEK——一种面向隐私保护消息协议的高效加密关键词搜索协议，将同态加密（HE）与安全两方计
A Graph-Based Framework for Extending Metric Differential Privacy Mechanisms
本文研究度量差分隐私（metric differential privacy, mDP）机制的可扩展构造问题。mDP 适合定义在结构化的秘密域上（例如路网、地理网格、坐标空间），因为它的隐私保证随秘密值之间的度量距离变化，比标准差分隐私更贴
Differentially Private Average Treatment Effect Estimation by Propensity Score Blocking
观察性研究中的平均处理效应（ATE）估计是社会科学、医学和流行病学等领域广泛使用的基础统计工具，用于在无法进行随机对照试验时评估某种干预或暴露对结果变量的因果影响。然而这些领域所处理的数据通常包含高度敏感的个人信息，直接发布基于原始数据的
Topological Fraud Detection in Latent Transaction Spaces
该论文提出一种在隐式交易向量空间中进行欺诈检测的新方法，核心创新在于完全基于拓扑匿名化的嵌入表示开展检测，从而在不接触原始交易数据的前提下识别可疑行为。作者设计了一个两阶段流水线：第一阶段采用迭代的无监督过滤，对大规模交易候选集进行粗筛，降
A Novel Semantic Manifold Alignment Attack against Embedding-to-Embedding Obfuscation in Privacy-Preserving LLMs
本文针对隐私保护大语言模型（LLM）推理中的嵌入到嵌入混淆（Embedding-to-Embedding Obfuscation, E2EO）机制提出了一种新的攻击方法——代理流形对齐（Proxy Manifold Alignment, P
Private Approximate Nearest Neighbor Search with Sublinear Communication.
本文提出了一种面向隐私保护的近似最近邻搜索（Private Approximate Nearest Neighbor Search）的轻量级协议，解决了现有方案依赖重量级密码学工具导致计算和带宽开销过高的问题。该协议基于两个不共谋的服务器，
Identifying Harmful Media in End-to-End Encrypted Communication: Efficient Private Membership Computation.
该论文研究端到端加密（E2EE）通信场景下有害媒体（如儿童性虐待材料 CSAM、恐怖主义内容等）的识别问题。由于 E2EE 保护用户隐私，服务提供商无法直接查看消息内容，因此需要在不破坏加密和隐私的前提下检测已知有害媒体。论文提出一种高效的
PACS: Privacy-Preserving Attribute-Driven Community Search over Attributed Graphs.
在数据驱动应用中，属性驱动社区搜索（Attribute-driven Community Search）受到越来越多的关注，其目标是在属性图上帮助用户发现满足特定结构紧密性和属性相关性的高质量子图。然而，现有方法大多未考虑搜索过程中的数据隐
Parasol Compiler: Pushing the Boundaries of FHE Program Efficiency.
全同态加密（FHE）允许第三方直接在加密数据上执行计算，是隐私计算的关键技术，但巨大的计算开销严重制约其实际应用。本文作者提出 Parasol Compiler，一个旨在大幅提升 FHE 程序效率的编译器框架。FHE 程序的效率瓶颈不仅来自