推荐 3.5
Conf: 50%
本文提出了一种新的深度伪造检测评估框架——校准深度伪造信任分数(CDTS)。传统上,深度伪造检测器的输出概率被直接视为信任度,但作者指出其校准性(即预测概率与实际正确率的匹配程度)与检测器的判别能力之间存在强耦合。通过在32种配置上的实验(合并Pearson r = -0.81),作者发现当检测器的判别能力下降时,信任分数的校准性也会显著退化。该现象在三种架构不同的检测器(两种卷积网络和一种CLIP视觉Transformer)上均得到验证,并且可通过直接诱导低能力来复现。此外,作者证明了CDTS的可部署性:一个在域内数据上冻结的校准器会在低能力生成器上失效,而无需标签的能力估计可以监测未见生成器上的校准风险。基于无参考能力估计的路由策略能降低整体AURC并改善中低覆盖区间的性能。研究还发现,能力因素同样驱动了人口统计子组间的校准不公平性(与准确性不公平性不同)以及解释忠实度。因此,作者主张检测器的可信度由能力作为共同驱动因素组织,信任评分必须具有能力感知性,并提供了CDTS作为实现机制。
💡 推荐理由: 该研究揭示了深度伪造检测器的一个关键局限性:信任度的校准性依赖于检测器的能力,这直接影响实际应用中的可靠性。对于安全运维人员,意味着不能盲目依赖检测概率,需要额外关注能力估计。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)