Decoding Guardrails: XAI-Guided Perturbation Analysis of Prompt Injection Detection
该论文针对 LLM 生产部署中广泛使用的分类器式护栏（以 Meta 的 Prompt Guard 2 为代表）开展了可解释性（XAI）驱动的探索性案例研究。作者指出，这类护栏被当作抵御提示注入与越狱攻击的第一道防线，但其内部决策逻辑对防御方
#XAI
共收录 12 条相关情报。
← 返回所有主题SoK: Privacy Attacks on Machine Learning via Explainable AI
该论文是一篇系统性综述 (SoK), 聚焦于一个长期被分散讨论的安全议题: 可解释人工智能 (XAI) 所输出的解释信息, 如何反过来成为攻击者窃取模型机密与训练数据隐私的入口。作者指出, 机器学习解释原本用于提升模型透明度, 但它揭示的是
Explainable Artificial Intelligence for Industrial Cybersecurity: A Review of Methods, Operational Integration, and Research Challenges
本文是一篇关于可解释人工智能（XAI）在工业网络安全中应用的综述性论文。随着工业基础设施的日益数字化以及信息技术（IT）与运营技术（OT）的融合，工业系统的网络攻击面显著扩大。为应对日益复杂的网络威胁，人工智能（AI）和机器学习（ML）技术
Mitigating Explanation Leakage in Financial Fraud Detection Systems
金融欺诈检测系统通常依赖集中式机器学习模型，这带来严重的数据隐私风险。联邦学习（FL）通过将数据处理分散到各参与方来缓解这一问题，但金融监管仍要求模型具备可解释性，因此常使用TreeSHAP等可解释人工智能（XAI）工具。然而，近期网络安全
Xplain: Analyzing Invisible Correlations in Model Explanation.
本文提出了一种名为 Xplain 的模型解释性分析方法，旨在揭示模型解释中存在的“不可见相关性”（invisible correlations）。研究人员观察到，现有的可解释人工智能（XAI）方法通常只关注单一特征对预测结果的直接影响，而忽
ExplainGuard: A Zero Trust Framework for Post-Hoc Explanation Integrity Guarantees in Blackbox XAI Models
随着机器学习模型在高风险场景中的广泛部署，可解释人工智能（XAI）方法（如SHAP和LIME）已成为满足监管合规和建立信任的关键工具。然而，当前的黑盒模型审计范式隐含地依赖一条“信任链”，即默认第三方审计人员是可信的。近期研究表明，这一假设
A Comparison of Malware Image Transformations Using Grad-CAM and Hybrid Learning Models
该研究专注于恶意软件检测领域中的二进制到图像转换技术，并引入可解释人工智能（XAI）工具来提升模型的可解释性。作者使用 Gradient-weighted Class Activation Maps (Grad-CAM) 作为解释工具，分析
Beyond Detection Accuracy: Measuring Explanation Cost, Stability, and Utility for Resource-Aware IoT Intrusion Detection
本文针对物联网入侵检测中的机器学习模型，指出已有研究通常只强调预测精度，而将解释性分析（如SHAP）视为零计算成本的附加步骤，忽视了实际部署中的资源约束和解释成本。作者联合评估了预测性能、解释计算开销、局部解释稳定性以及选择性解释（即仅对关
In-Progress: Augmenting Explainable AI with LLMs to Enhance User Trust in Intelligent Transportation Systems.
该论文针对车联网通信网络中机器学习模型用于误行为检测时存在的“黑箱”问题，提出了一种将可解释人工智能（XAI）与大语言模型（LLM）相结合的新型框架，旨在提供透明、用户友好的解释，从而增强非专业用户（如网络运营商、监管人员）对系统预测结果的
Forensic-Oriented Intrusion Detection Using Synthetic Network Traffic Data and Explainable Artificial Intelligence
该论文提出了一种面向数字取证场景的网络入侵检测框架，同时解决现有机器学习管线在证据保全和可解释性方面的缺陷。框架严格遵循ISO/IEC 27037、27041、27042及NIST SP 800-86等取证标准，将原始网络流量数据视为不可变
Explainable AI-Driven Cyber Risk Analytics and Model Reliability Assessment for Intelligent Governance of U.S. Critical Infrastructure: An XGBoost and SHAP-Based Intrusion Detection Framework
该论文针对美国关键基础设施领域日益增长的网络安全威胁，提出了一种基于可解释人工智能（XAI）的网络风险分析与模型可靠性评估框架。研究背景指出，随着能源、医疗、交通、金融和通信等关键基础设施广泛采用智能数字技术，其暴露于高级网络攻击（如DDo
Explainable Machine Learning for Phishing Detection on Heterogeneous Datasets with MCP-Enabled Deployment
该论文针对钓鱼攻击检测问题，系统评估了多种机器学习算法在不同来源的异构数据集上的表现。研究使用了公开的UCI数据集、通过EvilGinx和Zphisher等工具生成的模拟数据集以及AI生成的数据集。实验中比较了经典模型（Logistic R