Backdooring Masked Diffusion Language Models
该论文首次系统研究了掩码扩散语言模型（MDLM）在训练阶段的后门攻击。MDLM是一种新兴的文本生成范式，其训练时安全性尚未得到充分探索。现有的针对高斯扩散模型或自回归语言模型的后门攻击无法直接应用于MDLM，因为MDLM依赖于离散状态破坏和
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题Quantum Machine Learning for Cyber-Physical Anomaly Detection in Unmanned Aerial Vehicles: A Leakage-Free Evaluation with Proxy-Audited Feature Sets
Quantum Machine Learning for Cyber-Physical Anomaly Detection in Unmanned Aerial Vehicles: A Leakage-Free Evaluation wit
Be Kind, Rewrite: Benign Projections via Rewriting Defend Against LLM Data Poisoning Attacks
大语言模型（LLM）极易受到后门攻击（BA），攻击者通过向训练样本中注入包含触发器的有害内容来植入后门。现有防御方法在广泛测试中效果不佳。本文探索利用LLM自身的重写能力作为主动防御手段，提出了一种名为“开放书签良性重写”（OBBR）的方法
A No-Defense Defense Against Gradient-Based Adversarial Attacks on ML-NIDS: Is Less More?
本文研究基于梯度的对抗性攻击对机器学习驱动的网络入侵检测系统（ML-NIDS）的威胁，并提出一种无需显式防御的“无防御”方法：通过精心选择模型架构即可实现固有鲁棒性。作者进行了约2200次实验，在FGSM、PGD和BIM攻击下，系统性地变化
Learning to Look Benign: Targeted Evasion of Malware Detectors via API Import Injection
本文研究基于机器学习的恶意软件检测器在静态特征（如Win32 API导入）上的脆弱性。作者提出一种对抗性攻击框架，能够通过向可执行文件添加少量特定于目标良性类别的API导入，使恶意软件被误分类为选定的良性软件类别（如PDF阅读器、游戏等），
Prompt2Fingerprint: Plug-and-Play LLM Fingerprinting via Text-to-Weight Generation
该论文提出 Prompt2Fingerprint (P2F)，一种用于大型语言模型（LLM）指纹识别的即插即拔框架。随着LLM的广泛部署和再分发，模型来源追踪成为关键挑战。现有的主动指纹识别方法通过微调嵌入身份信号，虽然准确率高且鲁棒，但存
OEP: Poisoning Self-Evolving LLM Agents via Locally Correct but Non-Transferable Experiences
该论文研究了具有记忆增强和自我进化能力的大型语言模型（LLM）智能体的安全风险。现有针对智能体记忆的攻击通常需要高权限或包含明显恶意内容，容易被安全过滤器检测。作者提出了一种名为"Obsessive Experience Poisoning
It Takes Two: Complementary Self-Distillation for Contextual Integrity in LLMs
本文针对大语言模型（LLM）在作为个人代理处理敏感工作流时面临的上下文完整性（Contextual Integrity, CI）问题，提出了一种互补自蒸馏框架SELFCI。CI定义隐私不仅为隐藏信息，而是根据给定上下文的规范来管理信息流动。
Protection Is (Nearly) All You Need: Structural Protection Dominates Scoring in Globally Capped KV Eviction
本文研究了在共享全局上限的解码时（decode-time）场景下，多种KV缓存逐出策略（LRU, H2O, SnapKV, StreamingLLM, Ada-KV, QUEST, Random）的表现。作者发现，这些策略存在一个共同的漏洞
MoCo-EA: Exploiting Adversarial Mode Connectivity for Efficient Evolutionary Attacks
本文提出了一种基于模式连通性（Mode Connectivity）的高效进化攻击方法 MoCo-EA，旨在解决传统进化算法在生成对抗样本时因离散交叉操作破坏对抗属性而导致效率低下的问题。核心创新在于将传统进化算法中的交叉算子替换为基于贝塞尔
SCAFDS: Edge-Feature Graph Attention for Interbank Fraud Detection with Attribution-Grounded SAR Generation
本论文提出了一种名为 SCAFDS（系统性传染感知欺诈检测系统）的新型银行间欺诈检测框架。研究背景是：美国金融系统每天处理约130万笔银行间交易，但现有文献中没有任何系统能够利用欺诈共现边特征来建模整个银行间网络中的欺诈传播。先前的银行间图
Few-Shot Network Intrusion Detection Using Online Triplet Mining
网络入侵检测系统（NIDS）通过检测恶意流量并交由安全运营中心调查，在保护网络中发挥关键作用。现有最先进的方法利用监督机器学习训练分类模型识别已知网络攻击，但这些模型需要大量标注数据集，且在较小数据集上训练时性能较差。为解决这一缺陷，异常检
Fast and Lightweight Backdoor Detection via Head Random Probing
深度神经网络（DNN）仍然容易受到后门攻击，现有后门检测方法通常需要干净数据、代理数据、梯度或迭代触发器重建，导致计算成本高且在实际模型审计场景中鲁棒性有限。本文提出HTell，一种快速、轻量级且无需数据的后门检测方法，基于头部随机探针技术
DP-SelFT: Differentially Private Selective Fine-Tuning for Large Language Models
该论文提出了一种名为 DP-SelFT 的差分隐私选择性微调框架，旨在解决大型语言模型（LLM）在微调过程中因使用敏感数据而导致的隐私泄露问题。差分隐私（DP）通过梯度裁剪和噪声注入提供形式化的隐私保护，但常导致模型效用显著下降。现有工作通
ADR: An Agentic Detection System for Enterprise Agentic AI Security
本文提出了Agentic AI Detection and Response (ADR) 系统，这是首个大规模、经过生产验证的企业级AI代理安全框架，专门用于保护通过Model Context Protocol (MCP) 运行的AI代理。
Integration of AI in Cybersecurity: Current Trends with a Focused Look at Intrusion Detection Applications
本文是一篇关于人工智能（AI）在网络安全领域应用的综述性研究，重点聚焦于入侵检测场景。文章首先指出，AI因其在模式识别、任务自动化以及降低时间与成本方面的能力，已被广泛应用于多个领域。在网络安全中，AI的整合引起了广泛关注，尤其是在入侵检测
Filter-then-Verify: A Multiphase GNN and ModernBERT Framework for Social Engineering Detection in Email Networks
社交工程攻击通过利用人类信任而非软件漏洞来实施，传统的基于规则的邮件过滤器难以有效检测这类攻击。本文提出了一种名为“Filter-then-Verify”的两阶段检测框架，将归纳式图神经网络（GNN）与协同注意力机制的ModernBERT模
The Range Shrinks, the Threat Remains: Re-evaluating LLM Package Hallucinations on the 2026 Frontier-Model Cohort
本论文复现并扩展了 Spracklen 等人 (USENIX Security '25) 关于代码生成大语言模型 (LLM) 产生包名幻觉的研究。Spracklen 的工作表明，LLM 在生成 Python 或 JavaScript 代码时
Privacy Policy Enforcement Guardrails for Data-Sensitive Retrieval-Augmented Generation
该论文针对检索增强生成（RAG）系统中的隐私泄露问题，指出传统PII过滤器容易忽略上下文数据泄露，例如通过非受管属性聚类可识别个人身份。作者提出了一种隐私政策执行（PPE）框架，采用双单类密度估计器，融合文本嵌入，并引入校准的拒绝区域以处理
Universal Graph Backdoor Defense: A Feature-based Homophily Perspective
图神经网络（GNN）在关系学习中取得了显著成功，但其对图后门攻击（GBA）的脆弱性，阻碍了其在高风险应用中的广泛采用。现有的图后门防御（GBD）方法主要针对基于子图的GBA，假设被投毒的目标节点明确连接到子图触发器。然而，实验结果表明，这些