#gaussian-process

共收录 2 条相关安全情报。

← 返回所有主题
推荐 3.5
Conf: 50%
👥 作者: Tomasz Maciazek

本文研究了在高斯过程(GP)后验采样中释放样本路径的隐私保护问题,其中整个训练集(包括协变量和响应)被视为私密信息。与传统差分隐私(DP)机制通过添加外部噪声不同,后验采样本身具有随机性。作者证明这种内在随机性能够提供差分隐私保证,具体通过推导高斯过程后验样本路径释放的显式 Rényi-DP 界。这些界将后验均值泄露与数据相关的后验协方差泄露分离,表明有意义的隐私保护强烈依赖于有效的岭正则化。通过成员推理攻击实验,作者展示了经验泄露与正则化、后验方差以及释放的后验样本路径数量之间的预测依赖关系。下游后验采样任务上的效用实验识别出噪声观测场景,在该场景下隐私兼容的正则化以适度的效用损失保留了有用的决策。当需要更强隐私保护时,可通过添加校准的 GP 噪声来增强内在保证,从而提供显式的额外隐私调节旋钮。该研究为理解 GP 后验采样的隐私属性提供了理论基础。

💡 推荐理由: 本文为高斯过程后验采样的内在隐私保证提供了理论依据,可帮助安全从业者评估使用 GP 模型时泄露训练数据的风险,并指导选择正则化参数以平衡隐私与效用。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Junfeng Guo Heng Huang

强化学习(RL)在现实世界中的应用日益广泛,但其安全性问题仍需更多关注。最新研究表明,RL智能体容易受到后门攻击的影响:当特定触发器被激活时,本应行为正常的智能体会执行恶意动作。现有的RL后门防御方法要么需要访问智能体的内部参数,要么仅在模型或轨迹级别运行,或者仅限于特定攻击类型。本文提出了一种名为PolicyGuard的新型防御机制,该机制在测试时、步骤级别进行后门检测。PolicyGuard利用高斯过程(GP)后验方差,并通过生成伪轨迹来计算每个时间步的不确定性,从而识别异常行为。此外,作者提供了理论依据来解释GP后验方差的有效性。在七个RL游戏环境中进行了大量实验,结果表明PolicyGuard在大多数情况下达到了最先进的检测性能:对于基于扰动的攻击,平均AUROC为0.856;对于对抗性智能体攻击,平均AUROC为0.859。本文的主要贡献包括:首次提出测试时、步骤级别的后门防御方法;利用GP后验方差实现细粒度不确定性量化;提供了理论支撑;以及通过广泛实验验证了方法的有效性。适合强化学习安全研究员、AI安全工程师以及对抗机器学习方向的研究者阅读。

💡 推荐理由: 强化学习后门攻击威胁严重,但现有防御存在短板。PolicyGuard首次实现测试时步骤级检测,无需修改训练过程或访问内部参数,为RL安全提供了实用且高效的防护方案。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)