#xai

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Sohan Gyawali, Yili Jiang, Jiaqi Huang 0001

该论文针对车联网通信网络中机器学习模型用于误行为检测时存在的“黑箱”问题,提出了一种将可解释人工智能(XAI)与大语言模型(LLM)相结合的新型框架,旨在提供透明、用户友好的解释,从而增强非专业用户(如网络运营商、监管人员)对系统预测结果的信任。具体而言,框架利用XAI(如SHAP)量化每个特征对检测结果的贡献,生成可视化解释;同时,通过引入上下文增强的LLM,将技术性的SHAP输出转化为易于理解的自然语言叙述。在真实车载网络数据集上的实验表明,该方法在保持高检测性能的同时,显著提升了可解释性。研究贡献在于首次将XAI与LLM协同应用于智能交通系统的误行为检测场景,兼顾了检测精度与用户信任需求。适合关注AI安全、可解释人工智能、智能交通系统、人机交互的研究人员和工程师阅读。

💡 推荐理由: 该研究解决了机器学习模型在关键基础设施(如车联网)中部署时因缺乏可解释性而导致用户信任不足的核心问题,为提升AI系统在安全敏感领域的实际采用率提供了可行路径。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Jose Luis Vela Alonso, Carmen Pellicer

该论文提出了一种面向数字取证场景的网络入侵检测框架,同时解决现有机器学习管线在证据保全和可解释性方面的缺陷。框架严格遵循ISO/IEC 27037、27041、27042及NIST SP 800-86等取证标准,将原始网络流量数据视为不可变、经过哈希验证的证据,所有模型训练均基于通过SDV+CTGAN生成的参数化合成数据,确保原始证据与衍生分析制品严格分离。检测器采用XGBoost二分类模型,在表格型网络流数据上实现高性能检测;可解释性模块利用SHAP TreeExplainer为每个实例生成特征归因,将统计预测映射为可观察的网络行为,用于生成法庭可采纳的取证报告。在CICIDS2017数据集上进行“合成训练、真实测试”(TSTR)评估,F1-macro达到0.96,与真实数据基线(0.97)的交叉验证方差相当。KS检验表明合成数据在隐私保护(平均|KS|=0.38)与操作效用之间取得平衡。跨数据集验证(UNSW-NB15、Kitsune)发现特征空间维度是合成训练效果的主要决定因素,确定了约30个数值流级特征的实际部署边界。针对暴力破解、端口扫描和DoS攻击的SHAP归因在真实与合成实例上保持一致,确认合成训练能够保留法庭专家证词所需的取证相关攻击指纹。本文适合数字取证、入侵检测和可解释AI领域的研究人员和从业者阅读。

💡 推荐理由: 该框架首次将取证标准(ISO/IEC 27037等)与机器学习管线深度整合,解决了传统AI方法无法满足法庭证据链要求的痛点,为网络入侵检测的可采用性和可解释性提供了可落地方案。

🎯 建议动作: 研究跟进,评估框架中合成数据生成与SHAP解释模块在自有取证流程中的可行性。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: B. M. Taslimul Haque, Md. Arifur Rahman, Md. Serajul Kabir Chowdhury Rubel, Md. Iqbal Hossan

该论文针对美国关键基础设施领域日益增长的网络安全威胁,提出了一种基于可解释人工智能(XAI)的网络风险分析与模型可靠性评估框架。研究背景指出,随着能源、医疗、交通、金融和通信等关键基础设施广泛采用智能数字技术,其暴露于高级网络攻击(如DDoS、僵尸网络、勒索软件和APT)的风险显著增加,传统安全机制难以应对动态演变的攻击环境。为此,研究者利用公开的CICIDS2017数据集,构建了基于机器学习的入侵检测和风险预测模型。比较了XGBoost、随机森林(Random Forest)和决策树(Decision Tree)等分类器在恶意流量检测上的性能,并重点集成SHAP等XAI技术,以增强模型决策过程的透明度和可解释性。评估指标包括准确率、精确率、召回率、F1分数、ROC-AUC和误报率,旨在验证模型的可靠性和鲁棒性。该框架最终目标是为美国关键基础设施的智能治理提供决策支持,提升网络安全风险管理的可信度与自动化水平。

💡 推荐理由: 该研究将可解释AI与入侵检测结合,有助于安全团队理解模型为何判定某流量为恶意,提升对AI驱动的安全系统的信任,特别适合关键基础设施等高风险场景的治理需求。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)