Security Properties of Neural Networks as Decision Problems
该论文从计算复杂性角度重新审视已部署神经网络的安全认证问题。验证文献长期聚焦鲁棒性等少量性质，但作者指出实际部署中还存在一类未被系统分类的决策问题：模型是否携带训练阶段植入的后门、存储参数故障是否会把网络推入不安全状态、输出是否泄露输入中的
#backdoor-detection
共收录 14 条相关情报。
← 返回所有主题Fusing Spectral Signatures and Activation Clustering for Backdoor Detection in Healthcare Imaging Models: Method, Implementation, and Evaluation
该论文研究医疗影像诊断模型中的后门（训练期投毒）检测问题。作者指出，医疗行业指南已把模型投毒与对抗攻击列为需要专门防御的行业级威胁，联邦政策也要求把 AI 漏洞检测工具扩展到农村医院等关键基础设施运营方，因此面向医疗影像流水线的后门检测具有
SpecGuard: Inference-Time Backdoor Detection For Free
该论文关注大语言模型供应链中的后门风险：模型常被第三方微调、共享或直接下载，因此实际部署的模型可能在良性输入下表现完全正常，一旦出现攻击者预设的秘密触发器，就切换为攻击者控制的行为。部署前的静态审计虽然有效，但对于持续更新、频繁重新微调或热
The "Beatrix" Resurrections: Robust Backdoor Detection via Gram Matrices.
本次输入仅提供论文标题与作者信息，未包含论文摘要内容。根据标题推测，该论文提出了一种名为'Beatrix'的后门检测方法，核心是利用Gram矩阵分析深度学习模型的内部特征，以实现对模型后门的鲁棒检测。后门攻击是深度学习模型面临的重要安全威胁
An Empirical Study of Output-to-Input Loops for Black-Box Backdoor Detection in Fine-Tuned Open-Weight LLMs
本研究针对开源权重微调大语言模型（LLM）中后门注入的检测问题进行实证分析。在模型分享平台上，任何人都可以上传自称安全的微调模型，但模型可能内置后门：在普通输入下表现正常，一旦遇到特定触发器则产生恶意行为。对于完全不掌握训练数据、原始干净权
FreeEagle: Detecting Complex Neural Trojans in Data-Free Cases.
本文针对深度神经网络中的木马（后门）攻击检测问题提出了一种新的无数据方法 FreeEagle。后门攻击是一种典型的人工智能威胁，被植入木马的模型在遇到带触发器的输入时会产生攻击者指定的异常行为，而在干净输入下表现正常。现有的后门检测方法大多
When Modalities Fail to Tango: Conformal Backdoor Detection in Multimodal Contrastive Learning
本文针对多模态对比学习（MCL）中的后门攻击检测问题展开研究。MCL 模型（如 CLIP）被广泛用于预训练，但其容易受到后门攻击的影响，现有基于检测的防御手段主要依赖 CLIPScore 指标，假设中毒图像-文本对具有较低的语义相似度。然而
Early Detection of Distributed Backdoors in Multi-Agent LLM Systems: A Characterization Study
本文研究多智能体LLM系统中分布式后门攻击的早期检测问题。攻击者通过一个中毒工具将加密后的恶意负载片段隐藏在观测结果中，这些片段被分发到多个智能体，运行结束后由外部过程重组并执行。由于每个智能体单独持有片段不完整，逐步骤的安全检查可能无法识
BARBIE: Robust Backdoor Detection Based on Latent Separability.
本文提出了一种名为BARBIE的鲁棒后门检测方法，旨在解决深度学习模型共享中的安全风险。后门攻击会使模型在正常样本上表现正常，但在含有特定触发器的样本上产生恶意行为。现有检测方法利用良性模型与后门模型在潜在表示上的可分离性（latent s
GradSentry: Gradient Spectral Entropy for Backdoor Sample Filtering in Large Language Model Fine-Tuning
该论文提出了一种名为GradSentry的后门样本过滤方法，用于防御大语言模型（LLM）微调过程中的后门攻击。研究背景是：在微调LLM时，使用不可信的数据集可能引入后门攻击，其中被投毒的样本会导致模型在特定触发器下产生恶意行为。现有的样本过
Fast and Lightweight Backdoor Detection via Head Random Probing
深度神经网络（DNN）仍然容易受到后门攻击，现有后门检测方法通常需要干净数据、代理数据、梯度或迭代触发器重建，导致计算成本高且在实际模型审计场景中鲁棒性有限。本文提出HTell，一种快速、轻量级且无需数据的后门检测方法，基于头部随机探针技术
Lightweight and Fast Backdoor Model Detection
本文针对深度神经网络（DNN）的后门攻击检测问题，提出了一种轻量级、快速的静态参数检测框架DFBScanner。现有防御方法通常依赖激活异常分析或触发器逆向工程，往往需要干净样本或先验知识，导致效率低、实用性差、泛化能力不足。尤其严重的是，
Model Forensics in AI-Native Wireless Networks: Taxonomy, Applications, and Case Study
本文探讨了人工智能原生无线网络中模型取证的技术框架、应用场景及案例分析。随着AI深度嵌入无线网络，模型成为影响信号处理、资源调度和网络控制的核心组件，但模型异常、篡改和恶意功能也引入了新的安全风险。作者首先梳理了模型取证的关键问题，包括模型
Layerwise Convergence Fingerprints for Runtime Misbehavior Detection in Large Language Models
大型语言模型在运行时可能表现出各种异常行为，例如训练时注入的后门在触发词下被激活、越狱攻击绕过安全对齐、提示注入覆盖部署者指令。现有的运行时防御通常针对单一威胁，且依赖干净参考模型、触发知识或可编辑权重，这些假设对不透明的第三方模型往往不成