Inner Momentum for Differentially Private Muon
该论文研究差分隐私（DP）训练中梯度裁剪对 Muon 优化器更新几何的破坏问题。DP 训练通常对每个样本梯度进行径向裁剪再加噪，但不同样本的裁剪系数不一致，会扭曲这批梯度平均后的奇异向量相对几何结构。Muon 的更新量是近似极分解因子 UV
#privacy-preserving-ml
共收录 26 条相关情报。
← 返回所有主题Homomorphic Advantage Operator: Stabilizing Reinforcement Learning Under Fully Homomorphic Encryption Constraints
该论文针对云端隐私保护机器学习在智能体场景中的落地难题展开研究。全同态加密（FHE）允许在密文上直接计算，是保护云端强化学习（RL）数据机密性的理想方案，但 FHE 只原生支持加法和乘法，所有非线性激活、裁剪、比较等操作都必须替换为多项式近
Combining Homomorphic Encryption and Differential Privacy in Federated Learning for Model Inspection and Availability
该论文针对联邦学习（FL）中隐私保护的割裂现状提出了一套组合式框架。背景在于：去中心化数据日益普遍，联邦学习允许客户端在不共享本地敏感数据的前提下协同训练模型，但 FL 本身并不足以保护训练数据——梯度更新仍可能泄露成员信息与属性信息，因此
Revisiting Certified Defense with Differential Privacy on Vision Transformers
该论文研究将差分隐私（DP）形式的认证鲁棒性从卷积神经网络迁移到视觉 Transformer（ViT）时出现的失效问题。PixelDP 通过在网络中间层注入噪声，为范数有界的对抗扰动提供严格的鲁棒性证书，此前在 CNN 上被证明有效；但在自
Encryptability As a Coordinate Choice: Depth-One Homomorphic Federated Learning of Quantum Neural Networks
该论文研究的是「同态加密下的联邦学习训练」这一隐私保护机器学习场景。加密训练有一个长期存在的硬性约束：服务端聚合与更新的多项式次数必须保持很低（低度数/low-degree），因为同态方案中每次乘法都会消耗乘法层级并引入噪声。这一约束传统上
Trusted Model Environment for Private Semantic Computations
该论文提出了一种新的密码学原语——可信模型环境（Trusted Model Environment, TME），用于支撑“私有语义计算”。所谓私有语义计算，是指参与方在不暴露各自数据的前提下，联合完成需要理解语义、上下文与数据间关系的计算任
HE-Guardrail: A Homomorphic Guardrail Against Jailbreak Attacks for Encrypted Large Language Model Inference
同态加密（HE）已成为隐私保护机器学习（PPML）的重要技术路线，允许在密文上直接进行模型计算。在基于 HE 的 PPML 场景中，客户端将加密输入提交给服务端，服务端在无法获知明文的前提下对 LLM 等模型完成推理。论文指出这一设定中存在
Towards TEE-Certified DP: Verifiable Differentially Private Training on Legacy GPUs
随着机器学习广泛部署，监管与政策对训练数据保护的要求日益严格，差分隐私(DP)成为关键技术；但一个研究不足的问题是，如何在不接触私有训练数据的前提下，由外部验证者认证已发布的模型确实按声称的 DP 保护完成训练。现有基于零知识证明等密码学方
OptiPrime: Optimizing Private Inference through Protocol-Hardware Co-design
该论文研究如何在混合同态加密（HE）与多方安全计算（MPC）框架下高效执行私有深度神经网络（DNN）推理。此类方案能对用户数据提供形式化隐私保证，但代价是 HE 带来的显著延迟开销。已有工作提出了定制化 HE 加速器，并针对单个 HE 算子
Feasibility of Homomorphic Inference for a Genomic Foundation Model
本文针对人类基因组数据"一旦泄露不可撤销、且可直接指向个体身份"这一特殊性，研究基因组基础模型（genomic foundation model）在第三方算力上推理时的隐私可行性问题。作者提出并回答的核心问题是:算力提供方能否在完全不接触明
LLM-Based Schema-Aware Split Learning for Privacy-Preserving Mental Distress Prediction Across Heterogeneous Surveys
随着社会与生活方式复杂度上升，全球心理健康困扰的患病率持续增长。教育机构、职场与诊所等组织积累了海量的心理健康问卷调查数据，若能进行跨机构的协作分析，就有望训练出更具泛化能力、可有效识别心理困扰的预测模型。然而这一目标面临两大障碍：一是隐私
Differentially Private EEG Feature Anonymization: A Privacy-Utility Case Study in Clinical Neurophysiology
该论文聚焦临床脑电图（EEG）数据的隐私保护与可用性权衡问题。研究背景是：临床 EEG 记录及其衍生特征对医疗健康研究和基于人工智能的临床决策支持系统开发具有重要价值，但其中可能包含患者特异性的敏感信息，在数据复用、分析以及跨临床与科研环境
Distributed and Private Textual Data Synthesis from Embeddings
该论文研究分布式场景下的差分隐私（DP）文本合成问题。现有 DP 文本合成流程普遍假设存在一个可信的中央策展方（trusted curator），能够直接访问用户原始文本并进行集中式处理；但在真实的多用户分布式环境中，这一信任与访问假设往往
GAP: Differentially Private Graph Neural Networks with Aggregation Perturbation.
本文提出 GAP（Aggregation Perturbation），一种面向图神经网络（GNN）的差分隐私（Differential Privacy, DP）训练方法。现有 DP-GNN 方法通常在梯度、嵌入或模型参数上添加噪声，但这种方
Let's Stride Blindfolded in a Forest: Sublinear Multi-Client Decision Trees Evaluation.
该论文研究多客户端决策树评估（Multi-Client Decision Trees Evaluation）问题，提出了一种名为“Let's Stride Blindfolded in a Forest”的新协议。核心目标是允许多个数据持有
Tetrad: Actively Secure 4PC for Secure Training and Inference.
本文提出 Tetrad，一个面向四方的安全多方计算（MPC）框架，专门用于隐私保护的机器学习训练与推理。与常见的两方或三方设置不同，Tetrad 考虑四方参与者，并容忍最多一个主动腐败方（active corruption）。它基于环（ri
Privacy-Preserving Detection of Rare Disease-Associated Cell Subsets via Secure Multi-Party Computation
本文提出了一种基于安全多方计算（MPC）的隐私保护框架，用于从高维单细胞数据中检测稀有疾病相关细胞亚群。单细胞测量技术（如流式细胞术、质谱流式）能够揭示免疫细胞异质性，但识别罕见细胞亚群（如频率低至0.01%的疾病相关细胞）需要足够大且多样
StraightDP: Geometry-Aware Differential Privacy for Rectified-Flow Transformers
论文提出一种针对直方流（Rectified Flow）变换器的几何感知差分隐私训练方法StraightDP，旨在解决文本条件生成模型在强隐私约束下出现的效用悬崖（utility cliff）问题。作者重新审视了直方流的几何特性：在噪声到数据
SHARK: Actively Secure Inference Using Function Secret Sharing.
该论文提出SHARK系统，旨在解决主动安全（active security）下的两方机器学习推理问题。传统方法（如Escudero et al., Crypto 2020）在预处理模型下需要大量关联随机性、多次通信轮次和高计算开销，导致性能
Euston: Efficient and User-Friendly Secure Transformer Inference with Non-Interactivity.
本文提出 Euston，一种高效且用户友好的安全 Transformer 推理框架，支持非交互式操作，无需客户端与服务器之间进行多轮通信。Euston 结合了多方安全计算（MPC）与同态加密（HE）技术，针对 Transformer 模型中