#causal inference

共收录 2 条相关安全情报。

← 返回所有主题
推荐 3.5
Conf: 50%
👥 作者: Tudor Cebere, Mathieu Even, Linus Bleistein, Aurélien Bellet

本文提出了一种名为“零训练轮次”(Zero-Run)的隐私审计方法,旨在解决现有隐私审计方法需要干预训练流程(如多次重训练或随机化数据包含)的局限性。在大型部署系统(如基础模型)中,这些干预往往不可行。作者利用两个固定数据集——已知为训练集成员的样本和已知为非成员的样本——进行事后审计。在这种观测性设置下,成员身份不再随机化,成员与非成员数据可能分布不同,导致成员推断分数反映分布偏移而非算法泄露。借鉴因果推断的思想,作者形式化了这种混杂效应,并提出了两种互补的校正方法:第一种将分布偏移和算法泄露的组合效应建模为自适应组合,产生保守的全局校正;第二种基于观测数据调整逐点成员猜测,得到更尖锐的实例依赖边界。在合成数据和大规模模型上的实验表明,当无法进行重训练或受控数据插入时,Zero-Run审计能够实现实用的隐私评估。本文的主要贡献在于提出了无需额外训练运行即可进行隐私审计的框架,并通过因果推断方法校正分布偏移带来的偏差。

💡 推荐理由: 实际中,许多大型模型(如基础模型)的隐私审计因无法干预训练流程而难以进行。Zero-Run方法利用固定数据集进行事后审计,为安全从业者提供了一种实用工具,特别适合评估已部署模型的差分隐私下限。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Shuguang Wang, Qian Zhou 0008, Kui Wu 0001, Jinghuai Deng, Dapeng Wu 0001, Wei-Bin Lee, Jianping Wang 0001

本文针对多传感器融合感知系统中故障根因分析困难的问题,提出了一种基于干预的方法(Interventional Root Cause Analysis, IRCA)。传统故障根因分析通常基于观测数据,难以区分相关性与因果关系。作者借鉴因果推断中的干预思想,通过主动改变系统输入或模块参数来观察输出变化,从而识别导致故障的真正原因。具体而言,论文设计了一个干预框架,该框架能够系统性地扰动传感器输入或中间融合模块,并利用因果图模型量化各组件对最终感知故障的贡献程度。在自动驾驶领域的多传感器(如激光雷达、摄像头)融合数据集上进行了实验,结果表明所提方法相比现有基于关联或反向传播的根因分析方法,定位准确率提升了15%以上,且能够有效处理传感器失准、时序不同步等实际常见故障类型。该方法不仅适用于自动驾驶感知系统,还可推广至机器人、物联网等依赖多源数据融合的复杂系统。

💡 推荐理由: 多传感器融合系统故障定位困难是自动驾驶安全的关键痛点,本文提出的干预式根因分析方法为工程师提供了主动诊断工具,有望提升系统鲁棒性和调试效率。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)