推荐 3.4
Conf: 50%
本文是一篇关于可解释人工智能(XAI)在工业网络安全中应用的综述性论文。随着工业基础设施的日益数字化以及信息技术(IT)与运营技术(OT)的融合,工业系统的网络攻击面显著扩大。为应对日益复杂的网络威胁,人工智能(AI)和机器学习(ML)技术越来越多地被部署在工业网络安全运营中,尤其是在安全运营中心(SOC)内。这些方法虽能改进异常检测、威胁分析和自动化响应,但其决策过程的不透明性给运营信任、法规遵从和事件响应带来了挑战。可解释人工智能(XAI)作为提升AI驱动网络安全系统及决策透明度和可解释性的范式应运而生。本文聚焦于工业SOC环境和安全运营工作流程,对工业网络安全中的XAI技术进行了全面综述。文章首先审视了AI在工业SOC工作流程中的角色、工业环境中利用的运营数据类型,以及基于AI的威胁检测的优点和局限性;随后综述了主要XAI方法族,包括特征归因方法、代理模型、基于规则的说明和可视化技术,并分析了其在工业用例中的适用性;进一步讨论了将工业系统区别于传统IT环境的运营、法规和安全要求;深入剖析了关键挑战,如标记数据集有限、模型可靠性、可解释性与性能之间的权衡,以及将XAI工具集成到SOC工作流程中的难题。最后,作者指出了开放的研究方向,为开发可信赖、运营可行且面向特定领域的工业环境XAI网络安全解决方案提供了机遇。
💡 推荐理由: 工业SOC和OT安全人员可了解XAI如何增强AI威胁检测决策的可信度,辅助满足合规要求,并理解工业场景中集成XAI的独特挑战。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)