Defending against Model Extraction for GNNs with Model Reprogramming
图神经网络（GNN）是机器学习即服务（MLaaS）中高风险应用的核心技术，但其黑盒部署模式易受模型提取（Model Extraction）攻击：攻击者通过查询API窃取模型知识产权。现有防御措施存在根本性的'欧几里得偏差'——它们直接将图像
#cs.LG
共收录 1064 条相关情报。
← 返回所有主题Cross-Corpus Evaluation of Generalizable Vulnerability Detection in IoT Firmware
本文针对物联网固件漏洞检测中的跨语料库泛化问题展开研究。当前领域面临固件生态异构、平台资源受限以及现有基准测试局限性等挑战，许多数据集为合成数据或通用数据，缺乏人工验证和污染筛查，导致模型跨语料库泛化能力缺少可靠证据。为填补这一空白，作者提
Analysis of Federated Aggregation under Model Poisoning and Backdoor Attacks: A Reconstructed Cross-Dataset and Cross-Architecture Benchmark
本文是一篇关于联邦学习中聚合方法在模型投毒与后门攻击下鲁棒性的系统性比较研究。作者重建了一个包含500个单元格的评估矩阵，覆盖五种聚合方法（如Trimmed Mean、Krum等）、五个数据集、五种模型架构，以及四种记录条件：干净环境、符号
Dueling Deep Q-Learning for Intrusion Detection
本文针对传统入侵检测系统（IDS）依赖监督式机器学习方法、难以快速适应新型攻击类型的问题，提出了一种基于奖励的决斗深度Q学习（Dueling Deep Q-Learning）模型。该模型采用决斗网络架构，将Q值预测拆分为状态价值流（valu
Benchmarking Cyberattack Detection in Electric Vehicle Charging Infrastructure with Benign User Updates
电动汽车充电基础设施正日益成为网络攻击的目标，而合法的用户行为——如在充电激活后修改请求的充电能量和离开时间——与充电操纵攻击在界面上高度相似，这给攻击检测带来了独特挑战。现有方法往往将任何请求修改视为异常，导致高误报率，无法区分恶意操纵与
SegPAR: Class-Centric Decision-Based Sparse Attack for Semantic Segmentation
本文聚焦于语义分割任务中的决策黑盒稀疏攻击问题。尽管稀疏决策黑盒攻击在分类领域已有研究，但在语义分割中尚缺乏系统性探索。作者首先将分类域中最具代表性的决策黑盒稀疏攻击方法改编至语义分割场景，构建了该未充分研究区域的基准测试。通过基准分析，发
Beyond Detection Accuracy: Measuring Explanation Cost, Stability, and Utility for Resource-Aware IoT Intrusion Detection
本文针对物联网入侵检测中的机器学习模型，指出已有研究通常只强调预测精度，而将解释性分析（如SHAP）视为零计算成本的附加步骤，忽视了实际部署中的资源约束和解释成本。作者联合评估了预测性能、解释计算开销、局部解释稳定性以及选择性解释（即仅对关
Logit-Boundary Geometric Belief Interfaces and Sparse Sheaf-Enclave Protocols: A Self-Contained Substrate for Secure Network Electronic Health Record (EHR) Interoperability
该论文针对电子健康记录（EHR）互操作性中的安全边界问题，提出了一套数学与工程架构。作者指出，传统系统、生成模型、术语服务、身份系统及人工审核者各自暴露丰富内部状态，而实际业务交换需要一种窄化的共享接口，以承载类型化声明、有限不确定性、来源
Stealing Reasoning Traces from Proprietary LLM APIs
本文揭示了大型语言模型（LLM）提供商在客户端保存加密推理轨迹所引入的严重安全漏洞。许多主流提供商（如 Anthropic、OpenAI、Google）为避免泄露模型内部推理过程（即思维链），通常将推理步骤以加密块形式返回给客户端，并要求客
Activation Probes Surface Code-Security Signals that the Model's Output Misses
该研究针对AI编码代理生成代码的安全审查瓶颈问题展开。随着AI编码代理在生产环境中生成越来越多代码，人工安全审查的速度难以匹配代码生成速度。对于广泛使用的闭源权重模型，部署团队无法读取其内部结构，但可以使用开源权重模型作为代理输出的审查器，
Dual-Adversarial Safety Alignment: Cultivating Intrinsic Threat Comprehension in LRMs
本论文针对大型推理模型（LRMs）在复杂任务上表现优异但易受有害提示诱导而输出不安全内容的问题，提出了一种名为 AdvSafe 的双对抗安全对齐框架。现有对齐方法通常依赖直接拒绝或安全推理，但往往局限于提示模式而非内在攻击机制，导致难以泛化
Mind the Hook: Source-Level Auditing of Privacy Defenses in Retrieval-Augmented Generation
该论文针对检索增强生成（RAG）系统中的隐私防御措施提出了一种基于源码的主动路径审计方法论。研究指出，黑盒隐私分数难以解释，除非明确被审计防御机制在系统管线中的实际挂钩点。为此，作者提出了主动路径审计方法：首先对检索、检索内容处理以及生成三
Robust Reputation-Driven Crowdsourced Federated Learning
本文关注众包联邦学习（Crowdsourced Federated Learning, CrowdFL）中的鲁棒性量化问题。CrowdFL通过众包范式允许开放、异构的参与，扩展了传统联邦学习，而声誉驱动的激励机制常被用于引导工人选择并增强可
Defending Retrieval-Augmented Intrusion Detection Against Knowledge Poisoning and Prompt Injection
检索增强生成（RAG）技术通过从向量知识库中检索语义相似的历史流量，使大语言模型能够对网络流进行分类并生成可读的入侵事件报告。然而，检索层的引入同时带来了知识投毒和提示注入等安全漏洞。本文提出 RAG-IDS，一个三层多智能体入侵检测框架，
Do All LLMs Know When They're Being Harmful? A Reproducibility Study of Latent-Space Safety Probes Across Model Families
本文是对Khatri等人(2026)提出的潜在空间安全探针方法的可复现性研究。原始方法表明，在单一大语言模型(LLaMA-3.1-8B)的最终层激活上训练轻量级MLP探针，能够以与比其大1000倍的防护模型相竞争的F1分数检测有害提示，且每
BASIS: Breach-Aware Selective Prompt Injection Shielding with Prefill Attention Probes
大型语言模型（LLM）应用面临提示注入这一严重安全威胁，攻击者通过将恶意指令嵌入用户输入或外部数据来劫持模型行为。现有检测方法仅判断注入是否存在，并在检测到时一律拒绝响应，却忽略了关键事实：对于许多现代对齐模型而言，精心构造的指令可以抵抗大
Persistent Semantic Entities in Tool-Augmented LLM Systems
该论文研究了工具增强型大语言模型（LLM）智能体系统中一种隐蔽的状态污染现象，作者将其形式化为“持久语义实体”（Persistent Semantic Entities, PSEs）。PSEs 指那些通过名称绑定、事件触发和跨边界传播在会话
Policy-Masked Private Experts: Auditable and Reversible Capability Access Control in Sparse MoE Models
该论文研究了一个新颖的系统安全问题：能否通过可信授权机制，在稀疏混合专家（MoE）大语言模型中控制新训练参数的可见性与可执行性，从而实现细粒度的能力访问控制。传统访问控制只限制模型输出行为，但所有请求仍可调用全部计算参数；本文提出了一种名为
Fairis: Fairness-Aware Aggregation with Provable Influence Containment against Fairness Poisoning Attacks in Collaborative Machine Learning
协作机器学习允许金融机构在不直接共享数据的情况下共同训练模型，但必须同时满足群体公平性和对抗鲁棒性。然而，现有的公平性感知聚合方法在形式上容易受到“公平性投毒”攻击：恶意客户端可以在保持模型准确性的同时最大化群体差异（例如不同组间的等机会差
Hardware Keystores for AI Agent Signing Workflows: A Zero-Trust MCP Enforcement Architecture
该论文针对 AI 代理在执行密码学操作（如 Git 提交签名、API 调用认证、证书签发）时私钥存储不安全的问题展开研究。当前常见做法将私钥存放在软件可访问的位置（明文文件、环境变量或容器内存），任何具备足够读权限的进程都能提取原始密钥材料