Encryption-Compatible Clustered Federated Learning via Distributed Expectation-Maximization over Metadata
本文针对联邦学习（FL）中数据异质性导致的客户端模型性能下降问题，研究了聚类联邦学习（CFL）方法。现有CFL方法在隐私保护、通信成本和计算效率三者之间存在权衡，作者将其形式化为“CFL三难困境”（CFL trilemma）：改善其中两个维
#stat.ML
共收录 38 条相关情报。
← 返回所有主题Self-Poisoning in Adaptive Out-of-Distribution Detection: A Sharp-Threshold Theory and Certified Label-Free Calibration
Self-Poisoning in Adaptive Out-of-Distribution Detection: A Sharp-Threshold Theory and Certified Label-Free Calibration
Plausible Deniability Guarantees for Whistleblowers
该论文针对举报人保护问题，提出了一种基于差分隐私的审计选择机制，旨在防止组织通过观察审计选择来识别举报人。现有方案缺乏正式隐私保证，而差分隐私机制也未直接针对这一自然威胁模型。作者首先形式化了强敌手威胁模型下的每报告（per-report）
Statistically Undetectable Backdoors in Deep Neural Networks
本文研究深度神经网络中后门植入的统计不可检测性。作者展示了一种对抗性模型训练者可以在大规模前馈神经网络中植入后门的方法，这些后门在白盒设置下是统计不可检测的，即后门模型与诚实训练模型之间的总变差距离很小，即使审查者拥有模型的完整描述（如所有
Unveiling the Non-Monotonic Effect of Privacy on Generalization under Byzantine Robustness
该论文研究了在拜占庭鲁棒分布式学习场景下，本地差分隐私（LDP）对模型泛化误差的影响。现有工作已证明在分布式学习中，拜占庭鲁棒性、LDP和优化误差之间存在基本的三难困境。然而，本文发现这一三难困境并非普遍适用于泛化误差，而是关键取决于隐私强
A Sieve-Accelerated Quadrature Method for Exact Privacy Accounting in the 2020 U.S. Decennial Census
2020年美国人口普查局采用了差分隐私技术保护数据隐私，通过向发布的普查表格注入整数值高斯噪声来实现。准确评估这些数据发布的隐私保证，可以使普查局确定满足给定隐私预算所需的最小噪声量，避免注入不必要的过多噪声，从而显著提高下游应用（如联邦资
The Role of Input Dimensionality in the Emergence and Targeted Control of Adversarial Examples
这篇论文系统研究了输入维度（input dimensionality）在深度神经网络对抗样本产生和定向控制中的作用。作者首先分析了现有基于测度集中（concentration of measure）的理论框架的适用范围与局限性，发现真实图像
AdaPrivate-TS: Private Thompson Sampling for Contextual Bandits with Privacy Amplification
本文提出 AdaPrivate-TS，一种结合了差分隐私与汤普森采样的上下文多臂赌博机算法。关键洞察在于，差分隐私噪声会以结构化方式膨胀后验协方差：向观测向量b添加高斯噪声N(0,σ²I)后，采样协方差变为v²A⁻¹ + σ²A⁻²，汤普森
Differential Privacy of Gaussian Process Posterior Sampling
本文研究了在高斯过程（GP）后验采样中释放样本路径的隐私保护问题，其中整个训练集（包括协变量和响应）被视为私密信息。与传统差分隐私（DP）机制通过添加外部噪声不同，后验采样本身具有随机性。作者证明这种内在随机性能够提供差分隐私保证，具体通过
Online Shift Detection and Conformal Adaptation for Deployed Safety Classifiers
该论文提出了一种针对已部署安全分类器的在线分布漂移监测系统。系统利用校准的序贯统计量（如加权共形预测或逻辑密度比估计）实时检测分类器的输入分布是否发生变化。一旦检测到漂移，系统会通过共形弃权层自动调整决策阈值，以恢复预设的目标错误率（ε=0
Advancing the State-of-the-Art in Empirical Privacy Auditing
本文针对大型语言模型（LLM）在参数高效微调过程中可能记忆个体训练样本的问题，提出了一种创新性的经验性隐私审计（EPA）方法。研究背景：微调后的LLM可能泄露隐私，现有审计方法依赖人工设计的“金丝雀”样本，但难以模拟真实数据分布且可能引入隐
TinyML-Driven Cybersecurity for Autonomous Spacecraft: Latency-Accuracy Analysis for SPARTA RF and Cyber Threat Detection
本文针对自主航天器在轨运行时面临的网络射频（RF）威胁，提出采用TinyML（微型机器学习）技术实现轻量级、低延迟的机载检测。研究以SPARTA攻击模型为基础，覆盖了上行链路干扰、Fake-NR欺骗、有效载荷篡改、地面段入侵以及未授权命令注
Global Sketch-Based Watermarking for Diffusion Language Models
该论文提出了一种针对扩散语言模型的全局草图水印方法。与自回归模型中逐token顺序生成并依赖局部上下文的水印方案不同，扩散语言模型在生成过程中同时采样多个未确定位置的分布，使得整个序列的加性统计量在生成时是可处理的。作者利用这一特性，设计了
Revisiting Privacy Amplification by Subsampling in Selective Release DPSGD
本文针对差分隐私随机梯度下降（DPSGD）中隐私核算不严谨的问题进行研究。DPSGD通过在梯度上添加噪声并裁剪梯度来保护隐私，但这会导致模型效用显著下降且收敛缓慢。先前的工作，特别是差分隐私选择性更新与释放（DPSUR）算法，通过选择性更新
Mind the Gap: Mixtures of Gaussians in Approximate Differential Privacy
本文针对满足 (ε, δ)-差分隐私的标量实值查询函数，设计了一类加性噪声机制，特别关注中低隐私保护水平（即ε较大或δ较宽松）的场景。作者提出的“混合机制”（mixture mechanisms）通过混合多个高斯分布来构造噪声分布，这些高斯
On the Stability of Spherical Hellinger-Kantorovich Flows and Their Implications for Differential Privacy
本文研究了球面 Hellinger-Kantorovich (SHK) 梯度流的稳定性及其在差分隐私 (DP) 中的应用。SHK 几何将运输和反应耦合，其梯度流与生灭 Langevin 动力学一致，可用于从 Gibbs 分布中采样。作者提出
Frequency-Domain Regularized Adversarial Alignment for Transferable Attacks against Closed-Source MLLMs
多模态大语言模型（MLLMs）尽管性能强大，但仍易受基于迁移的目标攻击：攻击者在开源代理编码器上优化扰动，该扰动可泛化至闭源MLLMs。提升对抗迁移性的关键在于有效捕获不同模型共享的内在视觉焦点，使扰动对齐可迁移的语义线索而非代理特定行为。
Differentially Private Sampling from Distributions via Wasserstein Projection
该论文研究差分隐私（DP）约束下的分布采样问题。传统方法使用KL散度等密度比度量评估DP采样效用，但存在两个关键局限：1）无法捕捉支撑集的几何结构；2）当分布支撑集不同时不适用。为克服这些局限，作者提出以Wasserstein距离作为效用度