Publicly-Verifiable Certificates for Statistical Algorithms
该论文旨在解决机器学习模型输出结果的可公开验证性问题。作者在Goldwasser等人提出的交互式学习证明框架基础上，首次研究了非交互式学习证明，并定义了一种新概念：公开可验证的统计有效性证书（Publicly-Verifiable Cert
#ml-security
共收录 30 条相关情报。
← 返回所有主题Lifecycle-Aware Dynamic Analysis for Secure ML Model Execution
该论文聚焦于机器学习模型执行过程中的安全威胁。随着预训练模型的广泛复用，攻击者可以将恶意行为嵌入模型文件，而现有基于静态规则或已知签名的方法难以泛化到不同框架且无法检测未知漏洞。作者提出一种动态生命周期感知分析方法，核心观察是ML模型在明确
SoK: Colluding Adversaries in Machine Learning Pipelines
本文是一篇系统化知识（SoK）论文，聚焦于机器学习管道中对手合谋的问题。现有的对抗性攻击研究通常孤立地考虑单一对手，但实际场景中对手可能通过合谋来放大攻击效果。论文首先提出一个系统化框架，涵盖两类合谋场景：（a）训练时对手与推理时对手之间的
Unveiling Privacy Risks in Multi-modal Large Language Models: Task-specific Vulnerabilities and Mitigation Challenges
本文系统性地研究了多模态大语言模型（MLLMs）中的隐私风险。与文本大语言模型（LLMs）不同，MLLMs同时处理文本和图像，图像中嵌入的敏感信息可能被模型提取并泄露。作者首先构建了MM-Privacy综合数据集，覆盖多种多模态任务和场景，
Proof-of-Learning: Definitions and Practice.
该论文提出了机器学习中的“学习证明”（Proof-of-Learning）概念，旨在解决模型训练完成后，训练者无法向第三方证明模型参数确实是通过给定优化过程得到的问题。现有方法无法验证训练计算的真实性，这可能导致模型所有权争议或分布式训练中
A No-Defense Defense Against Gradient-Based Adversarial Attacks on ML-NIDS: Is Less More?
本文研究基于梯度的对抗性攻击对机器学习驱动的网络入侵检测系统（ML-NIDS）的威胁，并提出一种无需显式防御的“无防御”方法：通过精心选择模型架构即可实现固有鲁棒性。作者进行了约2200次实验，在FGSM、PGD和BIM攻击下，系统性地变化
Magmaw: Modality-Agnostic Adversarial Attacks on Machine Learning-Based Wireless Communication Systems.
本文提出了一种名为Magmaw的新型无线攻击方法，旨在针对基于机器学习（ML）的无线通信系统生成通用对抗扰动。现有针对ML无线系统的对抗攻击方法缺乏对源数据多模态性、常见物理层协议和无线域约束的全面考虑。Magmaw能够为通过无线信道传输的
Innocent Until Proven Guilty (IUPG): Building Deep Learning Models with Embedded Robustness to Out-Of-Distribution Content.
本文提出了一种名为“Innocent Until Proven Guilty (IUPG)”的新型深度学习训练框架，旨在解决传统分类器（使用分类交叉熵损失）在真实世界环境中面临的三个关键问题：对分布外输入给出过度自信的后验概率、对对抗性噪声
Zero Day Attacks: Novel Behaviour or Novel Vulnerability?
该论文对零日攻击的本质进行了系统性的再审视，核心研究问题是：零日攻击究竟源于新颖的攻击行为还是新颖的漏洞？作者回顾了跨越20年的已记录零日攻击事件，发现这些攻击无一例外地源自对未公开漏洞（即零日漏洞）的利用，而非攻击者采用了前所未见的行为模
Rethinking Detection of Prompt Injection in Agentic Systems
[MOCK] 研究: Rethinking Detection of Prompt Injection in Agentic Systems