Risk Under Pressure: Compute-Aware Evaluation of Adversarial Robustness in Language Models
本文提出了一种基于计算压力的对抗鲁棒性评估框架，用于衡量大型语言模型（LLM）在对抗性攻击下的实际安全性。传统的评估方法通常以固定查询预算下的攻击成功率（ASR）作为指标，忽略了不同攻击策略在计算开销上的巨大差异（可能相差数个数量级）。为解
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题Do Transformers Actually Help Intrusion Detection? A Temporal Sequence Evaluation on CIC-IDS2017
该论文针对近年来网络入侵检测研究中越来越多地采用循环网络和Transformer等时序架构的趋势，提出质疑：这些模型是否真的利用了时序信息？作者以CIC-IDS2017数据集为基准，将其重构为时序入侵检测任务，通过构建有序流序列，在随机划分
What Do Deepfake Speech Detectors Actually Hear?
本文针对深度伪造语音检测器的可解释性不足问题，提出了一种基于积分梯度（Integrated Gradients）和时间对齐自监督表示（如WavLM）的音频原生可解释性流水线。该方法能够定位检测器在时间维度上的决策证据，并语义化解释最重要的声
Ethical and Technical Limits of Deepfake Speech Datasets
该论文对39个深度伪造语音数据集进行了系统性的数据集级审计，分析了可访问性、文档质量、人口统计与语言覆盖范围、数据集规模以及底层真实语音来源等关键属性。研究发现两个重要问题：首先，绝大多数数据集缺乏人口统计元数据（如年龄、种族、国籍等），仅
RAT: Reference-Augmented Training for ASV Anti-Spoofing
该论文针对自动说话人验证（ASV）中的欺骗检测问题，提出了一种参考增强训练（RAT）策略。作者首先设计了一种基于说话者参考录音的条件反欺骗架构，但在实验中发现该架构在推理时趋向于忽略参考信号，退化为无条件检测器。进一步分析表明，训练过程中引
A Bayesian Network Approach for Enhancing Security-Focused Decision Support Systems
这篇论文提出了一种基于贝叶斯网络（Bayesian Network, BN）的决策支持系统（Decision Support System, DSS），旨在帮助基础设施运营商在面对日益复杂的异构开源网络环境时，能够高效地选择合适的安全工具或
Secure Aggregation with Top-K Sparsification in Decentralized Federated Learning
联邦学习中，安全聚合是防止梯度泄露的关键组件，但其通信成本通常与梯度维度成正比，对于大型模型和带宽有限、节点不可靠的分散式联邦学习场景尤其高昂。Top-K梯度稀疏化通过仅传输完整梯度的少数重要条目来降低通信开销，同时保持模型精度，但每个用户
MemVenom: Triggered Poisoning of Multimodal Memories in Web Agents
本文研究了多模态Web智能体（Web Agent）中外部记忆组件（External Memory）的安全漏洞。现代Web智能体通常依赖外部记忆来存储长期经验，通过检索历史记录实现长程推理。然而，这种架构引入了一个关键风险：恶意内容若被注入记
Do LLMsMakeNeural Distinguishers Wise?
该论文探索了大型语言模型（LLM）在对称密码分析中神经区分器任务上的应用。神经区分器是一种通过机器学习模型区分密文对来恢复密钥的方法，以往工作多使用ResNet等传统深度学习模型，但尚未有研究将LLM用于此任务。作者提出了一种基于LLM的神
In Defense of Information Leakage in Concept-based Models
该论文重新审视了基于概念模型（Concept-based Models, CMs）中信息泄漏的传统观点。CMs是一类深度神经网络，其预测基于与人类可理解概念（如“圆形”、“条纹”等）对齐的表示。过往研究通常认为，CMs会学习到泄漏概念无关信
Advancing the State-of-the-Art in Empirical Privacy Auditing
本文针对大型语言模型（LLM）在参数高效微调过程中可能记忆个体训练样本的问题，提出了一种创新性的经验性隐私审计（EPA）方法。研究背景：微调后的LLM可能泄露隐私，现有审计方法依赖人工设计的“金丝雀”样本，但难以模拟真实数据分布且可能引入隐
Privacy-Preserving Credit Risk Prediction with Alternative Data
信用风险预测是消费信贷行业的核心问题。传统上，金融机构使用借款人的人口统计、财务和信用历史数据（统称为传统数据）构建预测模型。近年研究表明，替代数据（如手机通信数据）能为贷方提供更全面准确的借款人信用评估，从而提升预测性能。然而，替代数据由
Alignment Defends LLMs from Property Inference Attacks
本文研究了大型语言模型（LLM）在领域特定数据集上微调时面临的数据集属性泄露风险。近期研究表明，通过属性推断攻击（property inference attacks），攻击者能够有效提取模型训练数据集中的敏感属性（如数据集的整体分布特征）
Quality Is Not a Safety Proxy Under Quantization
本文系统性地审计了量化大语言模型（LLM）安全评估中的一个常见捷径：先用质量指标（如困惑度、任务准确率）筛选量化后的检查点，再决定是否有必要进行直接安全测试。作者构建了一个包含51个数据点的矩阵，覆盖6个模型（如Llama、Mistral、
SoK: Colluding Adversaries in Machine Learning Pipelines
本文是一篇系统化知识（SoK）论文，聚焦于机器学习管道中对手合谋的问题。现有的对抗性攻击研究通常孤立地考虑单一对手，但实际场景中对手可能通过合谋来放大攻击效果。论文首先提出一个系统化框架，涵盖两类合谋场景：（a）训练时对手与推理时对手之间的
What the Eyes See, the LLMs Miss: Exploiting Human Perception for Adversarial Text Attacks
这篇论文研究了基于大型语言模型（LLM）的内容审核系统在视觉感知上的盲点。作者指出，当前的内容审核系统主要依赖令牌化文本，忽略了人类在理解内容时所依赖的视觉线索，例如字体、间距、排列等排版特征。这种感知不匹配导致：人类能轻易识别的有害内容，
Safe-RULE: Safe Reinforcement UnLEarning
离线安全强化学习（Offline Safe RL）能够在没有在线交互的情况下学习策略，因此适用于机器人等安全关键系统。然而，其依赖静态数据集的特点使其容易遭受数据投毒攻击，攻击者注入恶意样本以破坏安全性并导致不安全策略行为。本文提出一种新的
Now You (Still) See Me: Detecting Evasive Steganographic Payloads in LLMs
该论文研究了大型语言模型（LLM）中的隐写术检测问题。作者首先指出，LLM可以通过微调将提示中的秘密编码到流畅、看似无害的输出中，从而构成隐写式数据外泄风险。现有的输出级隐写分析难以检测此类攻击，而最近的工作提出使用线性探针从内部激活中恢复
Benchmarking Empirical Privacy Protection for Adaptations of Large Language Models
该论文针对大型语言模型（LLM）在差分隐私（DP）适配下的实际隐私保护效果进行了基准测试。研究背景是：虽然DP理论上能提供隐私保障，但由于LLM预训练数据与适配数据可能存在重叠或依赖关系，实际隐私风险可能仍然存在。作者采用最先进的攻击方法，
The Injection Paradox: Brand-Level Suppression in Safety-Trained LLM Recommendations via RAG Context Injection
本文揭示了基于检索增强生成（RAG）的大语言模型（LLM）推荐系统中一种可重复的安全训练失效模式，称为“注入悖论”。该现象表现为：嵌入在检索文档中的提示注入（prompt injection）非但没有帮助攻击者提升目标品牌推荐率，反而由于模