Model Stealing Through the Lens of Model Multiplicity
该论文从模型多重性的角度重新审视了模型窃取攻击的传统观点。通常认为，攻击者通过查询目标模型构建高保真代理模型，可以获得与原始服务提供商相近的经济优势。然而，论文指出由于查询提取只能提供目标模型输入输出行为的部分监督，代理模型并非唯一确定：存
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题Data-Centric Benchmarking of Exploit Generation in LLMs: Understanding the Impact of Fine-Tuning
该论文研究了在大型语言模型（LLM）中基于CVE漏洞条件生成利用代码（exploit generation）的任务。作者采用数据为中心的方法，通过多阶段预处理构建了一个高质量的数据集，并引入了一个可扩展的评估框架，该框架使用LLM作为裁判（
Continual Backdoor Training in IoT/CPS
该论文聚焦于物联网（IoT）和网络物理系统（CPS）中持续学习（CL）环境下的后门攻击安全问题。随着IoT/CPS系统需要不断适应环境变化、设备异构性和概念漂移，持续学习被广泛用于提升系统效用。然而，持续学习的增量更新、回放缓冲区和表示重用
AgentCyberRange: Benchmarking Frontier AI Systems in Realistic Cyber Ranges
论文提出了AgentCyberRange，第一个开放、多靶场的基础设施，用于在逼真的网络靶场中衡量前沿AI系统的自主网络攻击能力。该基准整合了15个真实Web应用程序中的110个漏洞，以及8个包含156个内部主机的企业级网络靶场，并提供了C
Beyond Runtime Enforcement: Shield Synthesis as Defensibility Analysis for Adversarial Networks
本文重新审视了强化学习中的盾牌合成技术，指出其传统上作为运行时安全机制的定位存在偏差。作者提出将相同的自动机理论工具——规范编译、乘积博弈构建、吸引子计算和获胜区域提取——重新解读为设计时的分析仪器，其输出是对系统安全属性的结构性洞察，而非
Efficient, Robust, and Anti-Collusion Fingerprinting of Image Diffusion Models
本文提出了一种针对文本到图像（T2I）扩散模型的高效、鲁棒且抗合谋的模型指纹识别方法。现有模型指纹技术通过向生成图像嵌入用户特定标识符来保护知识产权，但普遍存在一个未探索的系统性漏洞：它们缺乏对抗合谋攻击的鲁棒性。合谋攻击中，多个攻击者联合
PolicyGuard: Towards Test-time and Step-level Adversary Defense for Reinforcement Learning Agent
强化学习（RL）在现实世界中的应用日益广泛，但其安全性问题仍需更多关注。最新研究表明，RL智能体容易受到后门攻击的影响：当特定触发器被激活时，本应行为正常的智能体会执行恶意动作。现有的RL后门防御方法要么需要访问智能体的内部参数，要么仅在模
A Privacy-Preserving Framework Using Remote Data Science for Inter-Institutional Student Retention Prediction
该论文提出了一种基于远程数据科学（RDS）的隐私保护机器学习（PPML）框架，用于跨机构学生保留率预测。研究利用PySyft平台，设计了一个半气隙架构，包括高侧和低侧服务器，使得来自三所大学的研究人员能够在敏感学生数据上构建预测模型，而无需
Detecting Functional Memorization in Code Language Models
该研究探讨了代码语言模型中的功能性记忆（functional memorization）现象，即模型在生成代码时可能会复制训练数据中的功能逻辑，即使文本上不相似。现有工作主要基于文本重叠的审计指标来检测训练数据泄露，但代码具有功能等价而文本
Smarter Saboteurs, Better Fixers: Scaling & Security in Linear Multi-Agent Workflows
本文研究基于大语言模型的多智能体系统（MAS）在面临敌对攻击时的鲁棒性问题，特别关注模型规模与系统级安全之间的关系。作者在HumanEval基准上，使用两个开源模型家族（不同参数量）进行实验，评估线性多智能体工作流的安全性。实验发现一种“服
SMSR: Certified Defence Against Runtime Memory Poisoning in Persistent LLM Agent Systems
该论文聚焦于持久性 LLM 代理系统中的多会话记忆投毒（MSMP）攻击及防御。随着检索增强生成（RAG）代理广泛使用跨用户会话累积的持久记忆，攻击者可通过正常交互注入精心构造的记忆，当这些记忆被后续用户检索时，可操纵代理的响应，而无需修改模
Fed-FBD: Federated Functional Block Diversification for Isolation, Privacy, and Surgical Unlearning
联邦学习（FL）允许多方协作训练模型而不共享原始数据，但标准方法（如FedAvg）将每个客户端视为黑盒，无法隔离对抗性贡献者、审计每个客户端的影响，或尊重已退出参与者的被遗忘权。本文提出Fed-FBD（联邦功能块多样化），一种模块化联邦架构
Reinforcement Learning Disrupts Gradient-Based Adversarial Optimization
本文研究强化学习（RL）训练如何破坏基于梯度的对抗攻击。传统上，梯度攻击（如PGD、AutoAttack）利用神经网络的梯度信息高效生成对抗样本。作者假设RL训练（使用策略梯度目标和epsilon-greedy探索）可以改变模型梯度结构，使
From Parameters to Feature Space: Task Arithmetic for Backdoor Mitigation in Model Merging
本文研究了模型合并（Model Merging, MM）中的后门攻击防御问题。模型合并是一种将多个针对特定任务微调后的模型整合为一个统一模型的高效方法，但最近研究发现该过程极易受到后门攻击。现有的基于任务算术的防御方法通常依赖于直接编辑参数
Categorical Robustness Assessment for Machine Learning based Network Intrusion Detection Systems
本文系统性评估了机器学习驱动的网络入侵检测系统（NIDS）在面对对抗性攻击时的鲁棒性。尽管已有研究揭示了ML模型在特定场景下的脆弱性，但缺乏跨架构、跨攻击类别和攻击类型的系统比较，导致安全从业人员在选择模型时缺乏明确指导。作者选取了三种主流
Online Shift Detection and Conformal Adaptation for Deployed Safety Classifiers
该论文提出了一种针对已部署安全分类器的在线分布漂移监测系统。系统利用校准的序贯统计量（如加权共形预测或逻辑密度比估计）实时检测分类器的输入分布是否发生变化。一旦检测到漂移，系统会通过共形弃权层自动调整决策阈值，以恢复预设的目标错误率（ε=0
Toward Trustworthy AI: Multi-Target Adversarial Attacks and Robust Defenses for Continuous Data Summarization
本论文聚焦于可信AI中数据摘要环节的对抗鲁棒性问题。数据摘要作为上游组件，决定哪些信息被保留并传递给下游学习或决策模块，因此针对摘要过程的对抗扰动可能以“上游”方式破坏可信AI：它们可能改变选定的摘要、降低其代表性，并进一步损害后续学习任务
Adv-TGD: Adversarial Text-Guided Diffusion for Face Recognition Impersonation Attacks
本文提出了一种名为 Adv-TGD 的生成式对抗攻击框架，用于对人脸识别系统实施身份冒充攻击。该框架基于 Stable Diffusion，通过对每个源-目标身份对进行轻量级 LoRA 微调，生成逼真的人脸图像，能够欺骗主流人脸识别模型。与
Privacy-Preserving Federated Autoencoder for ECG Anomaly Detection on Edge Devices
该论文提出并评估了一个端到端的联邦学习系统，用于在边缘设备上进行无监督的12导联心电图异常检测。系统结合了三种自编码器架构（VanillaAE、ConvAE、VAE），基于Flower框架实现跨十个模拟医院的联邦平均聚合，并集成客户端差分隐
Evaluating and Combating the Impact of Concept Drift on the Performance of Machine Learning-Based Phishing Detection Systems
本文研究了概念漂移（Concept Drift）对基于机器学习的钓鱼检测系统性能的影响，并提出了缓解策略。随着数字通信的快速发展，电子邮件成为主要渠道之一，但也带来了垃圾邮件和钓鱼攻击的持续威胁。传统的机器学习检测模型在静态数据集上表现良好