本文研究了图神经网络（GNN）可解释性中的一个常见但被忽视的问题：图对称化（graph symmetrization）会丢弃边的方向信息，导致解释结果失真。作者指出，在诸多关键应用（如安全关键系统）中，GNN 的解释结果必须准确可靠，以支持人类决策。然而，主流可解释性方法通常在预处理阶段对图进行对称化处理，将有向图转为无向图，这从根本上改变了图的结构语义，造成信息损失，进而产生误导性解释。论文通过理论分析和实验验证，证明了保留方向信息对于解释忠实度（fidelity）的重要性。理论部分分析了方向性缺失如何影响梯度或掩码类解释方法的有效性；实验部分则对比了基于对称化图与原始有向图的解释结果，定量评估了解释的准确性和可信度。核心贡献包括：一是揭示了对称化操作在解释场景下被忽略的负面影响；二是提出方向感知（direction-aware）的解释框架，在解释过程中显式保留边的方向性；三是通过多个数据集和模型架构验证了该方法的有效性，表明其能显著提升解释质量。这些发现强调了在安全关键应用中，GNN 可解释性必须考虑图的方向语义，否则可能误导审计人员或最终决策者。本文适合研究 GNN 可解释性、安全 AI 审计以及需要可信模型解释的从业者阅读。

本文提出 X-WAD（eXplainable Web Anomaly Detection），一个面向 HTTP 请求异常检测的可解释框架。研究背景是：随着 API 驱动架构普及，Web 服务承载大量敏感数据，自动化防御机制（尤其是基于正常流量建模的半监督模型）成为主流。然而实际训练数据中难以保证完全无攻击样本，标注错误或污染的异常样本会在模型中埋入后门，导致模型将特定攻击模式静默分类为正常，形成安全漏洞。针对这一问题，作者研究了基于 Transformer 的语言模型（TLM）在 HTTP 异常检测中的有效性，并重点提供针对检测结果的细粒度解释。核心方法采用 token 级 logit 基于的惊异度（surprisal）映射，同时产生异常分数和热力图式高亮，直观展示请求中哪些 token 导致了异常判断。实验部分，作者在公开数据集上验证了该可解释方法的有效性，意外发现了该数据集的标注不一致问题，证明训练数据中的异常污染确实诱导检测模型产生类似后门的失效模式。这一发现不仅支持了作者提出的假设，也凸显了自动检测模型在真实数据质量下的脆弱性。论文的主要贡献包括：提出结合 TLM 和惊异度映射的可解释异常检测方法，提供代码（论文中声称开放），并通过实验揭示数据污染对模型决策的隐蔽影响。适合安全研究人员、SOC 分析师以及构建 Web/API 防护系统的工程师阅读，尤其关注模型可解释性和训练数据可信度的人群。

本文提出“可解释物联网”（IoXT, Internet of Explainable Things）这一系统级范式，旨在使可解释性成为智能物联网的内建架构属性，而非事后附加能力。传统可解释人工智能（XAI）方法只解释模型预测，无法覆盖从传感数据到物理执行动作的端到端链路。IoXT 强调在“感知—通信—智能—决策—执行”全路径上实现“按设计可解释”（explainability-by-design），并由此推导出身份与可寻址性、时间保真度、跨层溯源、双向可跟踪性、流式与事件发生时证据、协议语义连续性、安全隐私、生命周期连续性以及一致性等多方面需求与设计原则。论文形式化定义了带时间戳的溯源图、传感器参与度、痕迹完整性、跨层覆盖率、重建延迟以及“无孤立执行”（No Orphan Actuation）约束——即任何关键动作必须能追溯到授权决策和源头证据，否则需明确标记为降级或不一致。IoXT 并不规定具体 XAI 方法或线协议，而是界定模型解释如何与真实传感器输入、通信历史、决策、执行器动作及结果保持可追溯关联。为此，论文提出“可解释遥测协议”（XTPs）作为一类协议类别，用于在异构 IoT 系统中保留这些语义，并定义了 IoXT-ready 与 IoXT-conformant 的保障概念。该研究适合物联网系统架构师、安全分析人员以及可解释 AI 和可信系统方向的研究者阅读。

该论文提出了一种名为 Malaika 的多智能体框架，用于解决恶意软件理解中的核心挑战：如何在部分可观测性下，从稀疏、分散的代码证据中重建高级恶意行为，并与良性功能区分。作者将恶意软件理解形式化为一个基于证据的推理问题，并主张可靠的行为重建需要三种互补的接地：领域接地（约束假设生成与评估）、语义接地（定位并连接程序证据）、知识接地（通过外部可验证威胁知识支持行为归因）。Malaika 框架通过模拟分析师的推理过程、工具辅助的证据定位和基于检索的行为归因来实现这三种机制，并在 Android 恶意软件分析任务上进行了评估。结果显示，Malaika 在分析质量上优于先前的基于 LLM 的恶意软件分析框架，并表明可靠性不仅依赖于模型能力，还依赖于推理过程。与恶意软件分析系统和前沿智能体框架的对比表明，接地感知推理能产生更精确、可审计的结论。消融研究进一步支持了接地假设。该工作为可靠恶意软件理解提供了原则性基础，并更广泛地适用于基于证据的软件分析。

该论文研究网络安全分类器在面对对抗性攻击时的鲁棒性及其可解释性稳定性问题。以往工作主要关注基于梯度的攻击方法，但许多实际分类器（如随机森林、XGBoost）是不可微的树模型。作者将先前的MLP研究扩展到随机森林和XGBoost，并在四个表格安全数据集（钓鱼URL、UNSW-NB15、NF-ToN-IoT、HIKARI-2021）上评估了五种攻击，包括三种适用于不可微树模型的黑盒方法。论文引入了解释稳定性指数（ESI），这是一个基于TreeSHAP归因漂移的标量指标，与鲁棒性指数（RI）在同一[0,1]尺度上报告。关键发现是：基于梯度的黑盒攻击（ZOO）对XGBoost产生退化结果（表观RI约0.98），这是由于分段常数预测表面导致的；而基于得分的Square Attack揭示了真正的脆弱性（RI约0.36）。这些退化扰动仍然会导致显著的归因漂移：XGBoost的ESI在0.06-0.16之间，尽管ZOO鲁棒性接近完美，而随机森林的ESI在0.14-0.29之间，表明预测鲁棒性和解释稳定性是两个不同的轴，需要联合测量。作者提出了一个两轴框架（梯度依赖性和查询效率）来解释观察到的攻击排名，并为树集成评估提供了实用指导。此外，步骤大小消融实验解释了在z-score归一化表格数据上PGD的异常现象。该研究对于安全分析师理解模型解释的可靠性以及防御对抗攻击具有重要意义。

该论文研究了基于点云的3D目标检测器在复杂场景下的结构脆弱性。现有工作主要关注孤立3D模型的对抗鲁棒性，而最近的LiDAR欺骗攻击虽然针对真实驾驶场景，但侧重于物理可实现性，未深入分析检测器的行为模式或攻击效率。本文提出一种可解释性引导的对抗分析方法：首先提出Saliency-LiDAR（SALL）方法，通过聚合跨场景的积分梯度归因，生成适用于LiDAR 3D目标检测器的通用显著性图；然后基于该图设计可解释性感知的视锥攻击（EFA），仅扰动对检测结果影响最大的视锥区域，而非均匀攻击整个目标区域。在KITTI和nuScenes数据集上，针对PointPillars和SECOND等检测器的实验表明，EFA在减少15个百分点以上检测召回率的同时，所需扰动的视锥数量比现有非显著性基线少25%-50%。这些发现揭示了现代3D检测器的判别证据集中于少量空间子区域，暴露了当前LiDAR感知系统中的结构性鲁棒性漏洞。代码已开源。

本文针对深度伪造语音检测器的可解释性不足问题，提出了一种基于积分梯度（Integrated Gradients）和时间对齐自监督表示（如WavLM）的音频原生可解释性流水线。该方法能够定位检测器在时间维度上的决策证据，并语义化解释最重要的声学线索。作者将方法应用于三种基于WavLM的检测器（AASIST、CA-MHFA、SLS），并在ASVspoof 5数据集上进行分析。通过人工标注最高归因区域，发现各检测器依赖不同的线索：AASIST强调非语音/环境线索，CA-MHFA关注局部音素伪影，SLS依赖词边界和频谱完整性。进一步通过因果掩码验证，去除主要线索后检测性能显著下降，证实了归因分析的有效性。该研究为理解深度伪造语音检测器的内部机制提供了可解释性工具，有助于改进检测器的鲁棒性和可信度。

未知网络攻击（尤其是零日攻击）检测是入侵检测系统的重大挑战。监督学习方法对已知攻击类效果好，但无法处理训练数据中未出现的新攻击类型；无监督方法虽能检测未知攻击，但误报率高，限制了实际应用。本文提出UNAD+框架，是对原有UNAD的改进。UNAD+包含三个核心组件：1）仅使用良性样本训练的无监督集成模型，通过加权多数投票（WMV）聚合基检测器结果；2）基于伪标签的监督细化阶段，利用无监督检测输出生成伪标签并训练分类器，以降低误报；3）事后可解释性层，提供局部和全局解释，增强透明度。在CICIDS2017和NSL-KDD基准数据集上的实验表明，UNAD+在保持高检测率的同时，F1分数超过98%，误报率显著低于原始UNAD。集成可解释性使其更适用于实际部署。该研究主要面向网络安全研究人员和入侵检测系统开发者，提供了一种平衡检测率与误报率的未知攻击检测方案。

本文针对特征归因（Feature Attribution）解释方法的鲁棒性评估问题展开研究。特征归因是解释机器学习模型预测结果的一种常见技术，通过为输入特征分配重要性分数来指示其对模型输出的贡献。然而，现有研究指出，这些解释可能对输入中的微小扰动高度敏感，即存在鲁棒性问题。本文提出一个系统性的鲁棒性评估框架，用于量化特征归因解释在面对输入扰动时的稳定性。该框架首先定义了一系列鲁棒性度量指标，如最大扰动幅度下的解释变化程度，并设计了高效的优化算法来寻找最坏情况下的扰动。实验在多个数据集和多种归因方法（包括梯度类、扰动类和代理模型类方法）上进行验证。结果表明，不同归因方法的鲁棒性存在显著差异，且鲁棒性与解释的保真度、稀疏性等属性并非正相关。该工作为特征归因解释的可靠性评估提供了标准化工具，有助于理解解释方法的局限性并指导后续改进。