Optimal Guarantees for Auditing Rényi Differentially Private Machine Learning
本文研究黑盒审计声称满足Rényi差分隐私(RDP)的机器学习算法。作者引入了一个基于假设检验的审计框架,利用Donsker-Varadhan(DV)变分估计器直接估计相邻执行之间的Rényi散度。理论分析给出了通过类别受限DV估计器进行R
今日共收录 1105 条安全情报,包含 281 个 CVE,422 篇安全通告,以及 120 篇研究论文。
← 返回归档列表本文研究黑盒审计声称满足Rényi差分隐私(RDP)的机器学习算法。作者引入了一个基于假设检验的审计框架,利用Donsker-Varadhan(DV)变分估计器直接估计相邻执行之间的Rényi散度。理论分析给出了通过类别受限DV估计器进行R
拥塞控制器(CC)是网络性能的关键,但它们在不利条件下的鲁棒性尚未被充分理解。近期基于学习的CC在受控环境中表现出色,但当控制器的输入信号被篡改或环境条件变得系统性地具有挑战性时,它们与传统CC相比表现如何尚不清楚。本文提出CCLab,一个
本文针对后门攻击(backdoor attacks)下的机器学习模型鲁棒性认证问题展开研究。后门攻击通过在训练数据中植入触发器(trigger),并同时在推理阶段激活,使得模型在正常输入下表现正常,而在含触发器的输入上产生恶意输出。现有的随
该论文研究了点态最大泄漏(PML)框架下的隐私保证问题,旨在同时满足两个关键需求:对后处理具有鲁棒性(即隐私保证在任意变换后仍成立)以及能够上界泄露失败概率(即信息泄露超过给定阈值的概率)。作者首先检验了两种受(近似)差分隐私启发的候选定义
本文提出了一种基于数据驱动识别混沌映射的图像加密框架。传统混沌加密方案通常依赖预定义的混沌映射(如Henon映射、Logistic映射等),这些映射的动力学特性固定,可能被攻击者利用。本研究另辟蹊径,采用SINDy-PI(稀疏识别非线性动力
联邦学习(FL)允许多个客户端在不传输原始数据的情况下协同训练机器学习模型,但数据非独立同分布(non-IID)会严重拖慢收敛速度并降低最终模型精度。现有方法多采用反应式策略,例如在聚合时对噪声或高异质性客户端的梯度进行丢弃或低权重处理,这
比特币作为市值最大的加密货币,其共识算法要求每笔交易必须上链确认,严重限制了可扩展性。为此,已有多种第二层扩容方案(如闪电网络)将支付迁移至链下,但这些方案部署门槛高:用户需预先锁定链上资金,并参与复杂的辅助协议(如通道再平衡、充值、路由)
本文提出了一种两阶段机器学习方法,用于检测通过I2P匿名网络进行的数据泄露行为。I2P通过大蒜路由和分布式网络架构提供强匿名性,这使得它既可用于合法隐私保护,也可能被攻击者利用来窃取敏感信息而不被发现。现有的网络安全措施往往无法有效识别I2
该论文提出了一种基于指数机制的随机算法,用于在保证差分隐私的前提下对预训练机器学习模型进行微调。核心创新点在于构造了一个简单的效用函数,该函数结合了预训练模型的局部二次逼近和新数据集的信息。由此得到的指数机制可以从多元正态分布中精确采样,并
该论文提出了一种名为 SMA-DP-SGD(频谱记忆感知差分隐私随机梯度下降)的方法,旨在解决传统 DP-SGD 在高方差更新下导致模型效用降低的问题。DP-SGD 通过每个样本的梯度裁剪和添加校准的高斯噪声来实现隐私保护,但噪声引入的方差
该论文提出了一种基于潜在几何结构的结构监测框架,用于匿名网络(如Tor)中的异常检测。传统异常检测方法依赖于测量信号是否超过预设阈值,但这只能捕捉到转变发生的时刻,而无法检测到转变前的结构性压力。作者提出将大规模行为群体视为几何能量景观,通
本文针对联邦学习中用户数据删除请求的合规需求,提出了一种高效的因果遗忘方法 HF-KCU。联邦学习系统需要支持数据删除以遵守隐私法规,但每次删除后从头重训练模型计算成本极高。HF-KCU 通过 Krylov 子空间中的共轭梯度迭代来近似影响
本文研究利用近内存处理(PIM)技术加速加密算法(如AES-128和SHA-256)的潜力与局限性。传统处理器中心架构受限于内存瓶颈,导致大数据量下的高延迟和高能耗。PIM通过在内存内部或附近执行计算,减少数据移动,有望显著提升加密性能。已
本文针对网络语音流隐写分析中现有方法因依赖特定场景数据分布、难以适应非同源数据分布的问题,提出了名为域感知平坦度最小化(DASM)的新型优化器。研究首先通过Hessian分析发现主流模型的损失景观被大量鞍点和尖锐局部最小值主导,导致模型对数
本文研究了文本到图像扩散模型在多概念后门注入场景下的稳定性问题。在开源复用和下游微调生态中,单个预训练模型可能被多个独立方顺序微调,导致多个概念特定的触发器-目标关联(后门)累积在同一模型中。这些后门在共享表示空间中可能产生语义冲突,引发跨
该论文揭示了动态提示架构中一种新型后门攻击的风险。现有ViT后门攻击多基于全量微调(full-tuning),计算成本高且导致性能下降,因此攻击者转向参数高效微调(PEFT)范式,主要包括基于适配器的方法(如LoRA)和基于提示的方法(如V
本文提出 RoboJailBench,一个针对具身机器人中对抗性攻击与防御的标准化基准测试框架。研究背景:随着视觉语言模型(VLM)被集成到机器人、自动驾驶等物理平台,这类具身AI系统面临新型安全威胁。先前的攻击与防御研究依赖临时数据集、有
该论文首次系统研究了掩码扩散语言模型(MDLM)在训练阶段的后门攻击。MDLM是一种新兴的文本生成范式,其训练时安全性尚未得到充分探索。现有的针对高斯扩散模型或自回归语言模型的后门攻击无法直接应用于MDLM,因为MDLM依赖于离散状态破坏和
本文针对时间关键场景下的隐私保护分布式优化问题,提出了一种结合进化算法和安全多方计算(MPC)的解决方案。在分布式优化中,多个参与方协作求解最优问题,但需保护各方的私有输入。传统隐私保护技术(如MPC)会引入显著的运行时开销,可能导致优化在
本文针对瑞士政治过程中的电子签名收集(e-collecting)场景,提出了一种兼顾可验证性与参与隐私的安全协议。在瑞士,公民通过收集一定数量的签名可以发起政策变更甚至具有法律约束力的公投,其安全要求与电子投票类似。作者首先基于瑞士现有的电