#explainable AI

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Mattia Tamiazzo, Simone Milani, Massimo Iuliani, Marco Fontani

本文提出了一种基于Wiener-Hopf线性预测的可解释音频深度伪造检测框架。针对现有黑盒模型可解释性差、计算复杂度高的问题,作者设计了一个轻量级二维卷积神经网络(CNN),将Wiener-Hopf预测系数作为输入特征,实现了分类结果与声学特性之间的直接透明关联。在基准数据集上的实验表明,该方法在保持竞争性检测性能的同时,计算复杂度显著低于现有先进方案。利用Grad-CAM进行可解释性分析发现,分类器主要关注低阶预测系数以及静音和过渡区域,提示Wiener-Hopf预测器能捕捉合成语音中的混响特征和细微统计不一致性。鲁棒性实验显示,通过微调能有效恢复在常见后处理退化(如加性噪声、MP3压缩、电话滤波)下的检测性能。该工作为音频深度伪造检测提供了可解释且高效的解决方案。

💡 推荐理由: 本文提出的可解释音频深度伪造检测框架在保持高检测性能的同时降低了计算复杂度,并通过Grad-CAM揭示模型决策依据,有助于提升对合成语音检测的信任度,适合音频取证和AI安全研究人员关注。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Wenhao Li 0005, Duohe Ma, Zhaoxuan Li, Huaifeng Bao, Shuai Wang 0079, Huamin Jin, Xiaoyu Zhang 0002

本文提出了一种基于可解释人工智能的入侵检测系统(XAI-IDS),旨在解决传统基于规则的入侵检测系统效率低下、规则更新滞后以及纯AI驱动系统决策过程不透明、误报率高的问题。XAI-IDS通过集成可解释的深度学习模型,利用树正则化技术将复杂神经网络模型转化为高效、透明的决策树,从而在保持检测精度的同时实现实时检测和可解释性。在两个基准数据集上的实验结果表明,XAI-IDS在检测准确率、误报率以及实时性方面均优于传统方法和现有AI方案。该研究为网络安全领域提供了一种兼顾性能与可解释性的入侵检测新范式,特别适用于需要快速响应和透明审计的场景,如企业内网防护和工业控制系统安全。

💡 推荐理由: 传统入侵检测系统面临规则陈旧和AI模型黑箱的双重困境,XAI-IDS通过树正则化实现精度与可解释性的平衡,有助于降低误报率并提升运维信任度,是AI安全落地的关键进展。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)