A Multi-Model Hybrid Defense Approach Against White-box Adversarial Attacks in Computer Network Traffic
该论文针对网络入侵检测系统（NIDS）面临的对抗性攻击威胁，提出了一种混合防御方法。NIDS是保护网络免受未知网络威胁的关键工具，但它容易受到对抗性攻击，攻击者通过构造对抗样本欺骗NIDS，将恶意流量误分类为良性。研究聚焦于两种强大的白盒对
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题How Do You Choose Your AI Component? An Interview Study of Secure AI Integration in Practice
本研究通过半结构化访谈的方式，深入调查了22名软件开发者、架构师和AI从业者在集成大语言模型（LLM）作为AI组件时的决策过程和安全考量。研究发现，从业者在选择AI模型时主要受功能标准驱动，如性能、准确率、成本和特定功能（例如工具调用或多模
Privacy Cost as Equity Input: A Group Fairness Criterion for Differentially Private Machine Learning
该论文提出了一种新的群体公平性度量方法——Privacy-Cost Equity Ratio (PCER)，用于评估差分隐私（DP）机器学习系统中的群体公平性。传统的公平性度量主要关注模型输出（如准确率）在不同群体间的差异，但忽略了隐私成本
Code-Poisoning Property Inference Attacks
本文提出了一种针对机器学习模型的新型隐私攻击——代码投毒属性推断攻击（CPPIA），这是首个在代码层面实施的属性推断攻击。现有属性推断攻击存在攻击性能不足、模型准确率严重下降、计算开销大、在防御下失效等四大局限性。CPPIA 利用代码托管平
Natural Backdoor Attacks on Speech Recognition Models
该研究聚焦于语音识别模型的后门攻击，提出了一种利用自然或日常生活中的声音（如雨声、鸟鸣等）作为触发器的自然后门攻击方法。与传统的后门攻击不同，自然触发器不需要人工合成噪声，而是直接使用环境中存在的、看似正常的音频信号，从而攻击更具隐蔽性和危
SpeechGuard: Online Defense against Backdoor Attacks on Speech Recognition Models
本文提出 SpeechGuard，首个针对语音识别模型的在线后门防御流水线。后门攻击通过在训练阶段注入少量恶意样本，使模型在遇到特定触发器时输出攻击者指定的错误结果，这在自动驾驶语音交互等安全敏感场景中危害极大。SpeechGuard 针对
Do Agents Dream of False Memories? Black-box Visual Attacks on Long-term Memory in Multimodal AI Agents
多模态AI代理越来越依赖持久性长期记忆来在视觉和文本上下文中进行生成。本文揭示了对视觉数据的无条件信任是一个关键安全漏洞。作者提出了Lucid，一个黑盒对抗性框架，在严格的图像受限威胁模型下攻击多模态记忆管道，无需访问目标多模态大模型（ML
Publicly-Verifiable Certificates for Statistical Algorithms
该论文旨在解决机器学习模型输出结果的可公开验证性问题。作者在Goldwasser等人提出的交互式学习证明框架基础上，首次研究了非交互式学习证明，并定义了一种新概念：公开可验证的统计有效性证书（Publicly-Verifiable Cert
Intentional Electromagnetic Interference Attacks on Facial Recognition
本文研究了针对人脸识别系统的有意电磁干扰（IEMI）攻击。传统计算机视觉攻击多局限于数字域，而生物特征识别（包括人脸识别）中，针对传感器的物理呈现攻击占据主导地位，且存在显著的风险与机遇。本文指出生物特征传感器在物理到数字转换管线中存在关键
FLINT: Fingerprinting Federated Learning Architectures from 5G PHY-Layer Side Channels
本文提出了一种名为 FLINT 的新型黑盒指纹识别框架，旨在通过 5G 物理层（PHY）侧信道推断联邦学习（FL）模型的架构家族（如 CNN、RNN、Transformer）。传统针对 FL 的侧信道攻击通常假设攻击者具有网络层数据包级别的
ADS-C: Antidistillation Sampling for Classification
该论文研究了分类模型中的反蒸馏采样问题。知识蒸馏攻击中，攻击者通过查询目标分类器的预测接口，利用返回的概率向量训练一个替代模型，从而窃取模型功能。此前针对大语言模型提出的反蒸馏采样方法通过输入相关的梯度导向扰动来防御此类攻击，但该方法在分类
Improving Network Anomaly Detection via Choquet-Integral-Based Feature Aggregation
网络异常检测对于保障网络安全至关重要，但高维网络流量数据常带来特征冗余问题，增加计算开销并可能降低模型性能。本文提出一种基于Choquet积分的特征聚合框架，旨在通过自适应加权与增量特征选择相结合的方式，有效聚合高维特征，减少冗余并提升检测
On the Impact of Entropy-based Features
该论文研究如何利用基于熵的特征来增强基于机器学习的网络异常检测。传统的统计特征（如均值、方差）在捕捉网络流量模式的高变异性和多样性方面存在不足，而熵可以量化数据分布的分散程度，从而有效表征流量的可变性。作者提出将熵特征作为传统描述符的补充，
Random Logit Scaling: Defending Deep Neural Networks Against Black-Box Score-Based Adversarial Example Attacks
该论文针对黑盒场景下基于得分的对抗样本攻击提出了一种新的防御方法。作者首先指出现有基于随机化的防御虽然能够降低攻击成功率，但往往以牺牲模型准确率或导致置信度分数严重失真为代价。为此，他们提出了随机对数缩放（Random Logit Scal
Value Leakage: An LLM's Answers Are Silently Shaped by Its Own Values
本文研究了大型语言模型（LLM）中存在的一种新型对齐失败模式——隐秘价值泄露（covert value leakage）。所谓价值泄露，是指模型在回答用户问题时，其自身内嵌的价值观（例如对道德偏好、对开发公司的偏好、对人类休闲活动的偏好等）
Privacy Leakage in Federated Learning in Radiology Reports: A Comparative Evaluation of Tokenizer-Driven Privacy Risks
联邦学习（FL）允许多机构在不共享原始数据的情况下联合训练临床文本模型，但梯度反演可能从共享的模型更新中重建敏感信息。本文系统量化了放射学报告中基于梯度的文本重建风险，并比较了三种分词器（GPT-2、RadBERT、LLaMA-2）对隐私泄
Plausible Deniability Guarantees for Whistleblowers
该论文针对举报人保护问题，提出了一种基于差分隐私的审计选择机制，旨在防止组织通过观察审计选择来识别举报人。现有方案缺乏正式隐私保证，而差分隐私机制也未直接针对这一自然威胁模型。作者首先形式化了强敌手威胁模型下的每报告（per-report）
Traffic-Aware Randomized Smoothing for LLM-Based Network Intrusion Detection
该论文针对基于大语言模型（LLM）的网络入侵检测系统（IDS）在对抗性流量操控下的鲁棒性问题，提出了一种名为“流量感知随机平滑”（Traffic-Aware Randomized Smoothing, TA-RS）的分类器无关认证防御方法。
Towards quantum machine learning for assessing the resilience of post-quantum cryptography
本文探讨了量子机器学习（特别是量子生成对抗网络QGAN）在评估后量子密码（PQC）协议安全性方面的潜力。随着量子计算机的发展，传统密码学面临威胁，因此后量子密码标准正在推进。然而，当前量子计算机虽规模有限，但仍可能被用于寻找PQC协议的弱点
When T2I Synthetic Data Backfires: Amplified Privacy Risks in Real-Synthetic Mix Training
该论文研究了真实数据与文本到图像（T2I）生成数据混合训练（RSMT）对隐私泄露的影响。尽管在学术界和工业界，使用T2I合成数据扩充真实数据已成为缓解数据稀缺和隐私限制的常见做法，但先前研究主要关注合成数据替代敏感样本对隐私的保护作用，而忽