#explainable-ai

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Feng Wei, Hongda Li 0002, Ziming Zhao 0001, Hongxin Hu

本文提出一种名为xNIDS的框架,旨在为基于深度学习的网络入侵检测系统(NIDS)提供可解释性,以支持主动入侵响应。当前深度学习NIDS虽然检测性能优越,但其黑盒特性使得安全分析师难以理解告警原因,进而难以实施有效的响应措施。xNIDS通过生成与输入特征重要性相关的解释,帮助分析师快速定位关键攻击特征。文章设计了一种结合扰动测试和梯度分析的归因方法,能够高效计算每个网络流特征对检测结果的贡献。在多个公开数据集(如CIC-IDS2017、UNSW-NB15)上的实验表明,xNIDS在解释保真度、稳定性和效率方面均优于现有基线方法。同时,作者探讨了如何利用这些解释来指导主动响应策略,例如动态调整防火墙规则或触发高级分析。该研究弥补了深度学习NIDS可解释性领域的空白,为安全运营团队提供了从告警到响应的可操作桥梁。

💡 推荐理由: 提供深度学习NIDS的可解释性,使分析师能快速理解告警根因,进而实施精准的主动响应,提升安全运营效率。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Sk Tanzir Mehedi, Raja Jurdak, Chadni Islam, Abu Bakar Siddique Mahi, Gowri Ramachandran

本文提出了一种基于深度学习的可解释动态分析框架eDySec,用于检测PyPI生态系统中的恶意软件包。随着软件供应链攻击日益复杂,传统机器学习检测器难以应对高维稀疏的动态行为数据(如系统调用、网络流量、目录访问模式和依赖日志),导致性能不稳定且缺乏可解释性。eDySec利用深度学习模型从QUT-DV25数据集中提取安装时和安装后的行为特征,通过特征选择、模型稳定性分析和可解释AI技术,实现了高效、稳定且透明的恶意包检测。实验结果表明,eDySec在多个指标上显著优于现有框架:特征维度减半,误报率降低82%,漏报率降低79%,准确率提升3%,接近完美的稳定性,且每个包的平均推理延迟仅为170毫秒。研究还发现,特征与模型组合的选择对性能至关重要。该框架适合安全分析师、软件供应链安全研究人员以及PyPI维护者参考,以提升对下一代动态攻击的防御能力。

💡 推荐理由: 该框架直接针对PyPI生态中的高级恶意软件包检测,能显著降低误报漏报并保持可解释性,有助于蓝队自动化分析动态威胁。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)