Generative Testing of Automated Speech Recognition Systems
该论文提出了一种名为GATAS的自动语音识别（ASR）系统黑盒测试方法。研究背景是，尽管基于transformer的ASR模型在关键应用中取得了高准确率，但仍容易受到对抗性攻击，尤其是在黑盒场景下，攻击需要保持感知自然性。现有方法通常直接扰
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题Leveraging Interpretable Tsetlin Machine for PDF Malware Detection
本文针对PDF文件被广泛用于传播恶意软件的安全问题，提出了一种基于可解释Tsetlin Machine（TM）的恶意PDF检测框架。该框架通过静态分析从PDF文件中提取关键特征，无需执行文件即可进行检测，并利用TM的规则学习机制对良性与恶意
RaMark: Radioactive Watermarking for Generated Tabular Data
该论文针对生成式表格数据的水印技术面临的重训练攻击问题，提出了一种具有放射性的水印方法RaMark。现有水印方法在攻击者利用带水印数据集重新训练生成模型后，生成的高效用数据会丢失水印，导致所有权验证失效。RaMark通过将正弦依赖性作为数据
TRACE: A Two-Channel Robust Attribution Watermark via Complementary Embeddings for LLM-Agent Trajectories
该论文提出了TRACE，一种针对LLM智能体轨迹的双通道鲁棒属性水印方案。在LLM智能体通过转售商（reseller）分发的场景中，转售商可能篡改开发者智能体的品牌或替换为更便宜的模型。当所有权发生争议时，归属认证依赖于轨迹日志（工具调用、
MLQENABLER: Enabling Secure Machine Learning Queries over Encrypted Database in Cloud Computing
在云计算环境中，公共云服务提供商（CSP）通常将云存储作为主要服务，同时利用客户存储在云上的数据提供额外的机器学习（ML）服务。这种商业模式扩展了云计算的边界，但也带来了严重的安全隐患：公共云并非完全可信，可能将客户的敏感数据出售给第三方。
Securing Autonomous Vehicle Systems via Twin-Aware Federated Reinforcement Learning
本文提出一种针对联邦强化学习（FRL）系统的安全防御框架SecAgg+，旨在保护安全关键的自动驾驶场景中的FRL模型免受投毒攻击。联邦强化学习允许多个智能体协同学习而不共享原始数据，从而增强隐私和可扩展性，但现存投毒攻击可通过注入恶意系统参
Beware What You Autocomplete: Forensic Attribution of Backdoored Code Completions
本文提出 CodeTracer，一个面向大语言模型代码补全系统中后门攻击的取证框架。背景是：代码补全系统（如 Copilot）依赖大型语言模型，但模型可能通过恶意微调数据被植入后门，导致生成恶意代码。现有防御技术难以检测和缓解自适应后门攻击
Who Broke the System? Failure Localization in LLM-Based Multi-Agent Systems
该论文研究了基于大语言模型（LLM）的多智能体系统中的故障定位问题。在多智能体系统中，多个LLM驱动的智能体通过协调推理和行动来解决复杂任务，但由于长期交互和智能体行为的紧密耦合，当执行失败时，很难确定哪个智能体负责以及轨迹在哪个点首次变得
Efficient Safety Alignment of Language Models via Latent Personality Traits
大语言模型（LLM）的安全对齐方法容易受到对抗性攻击的威胁，现有的防御手段如隐对抗训练（LAT）虽然有效，但需要大量有害提示数据，且可能损害模型效用。本研究提出了一种名为隐人格对齐（Latent Personality Alignment,
Multimodal Unlearning Across Vision, Language, Video, and Audio: Survey of Methods, Datasets, and Benchmarks
随着视觉语言模型（VLM）、扩散模型（DM）、大语言模型（LLM）和音频基础模型（AFM）的广泛应用，这些多模态基础模型可能会从训练数据中无意编码敏感、受版权保护、有偏见或不安全的跨模态关联。在收到删除请求或政策更新后重新训练通常不切实际，
Functional and Secure Code Generation with Task Vectors
大型语言模型（LLM）在代码生成领域应用广泛，但其生成的代码往往存在功能缺陷或安全漏洞。现有研究要么分别评估功能性和安全性，要么侧重于生成后查找漏洞，而缺乏同时保证两者的方法。近年来，文本生成领域涌现出多种对齐技术，其中任务向量算术通过线性
Multi-Class vs. Multi-Label BERT for CVE-to-CWE Mapping: How Taxonomy Structure Shapes the Errors
本文研究将通用漏洞披露（CVE）记录自动映射到通用弱点枚举（CWE）类别的文本分类方法。CVE-to-CWE映射是漏洞分析中的关键步骤，但目前主要依赖人工。作者将该任务建模为文本分类问题，比较了两种建模策略：多类分类（每个CVE预测一个CW
Where to Intervene? Benchmarking Fairness-Aware Learning on Differentially Private Synthetic Tabular Data
该论文针对差分隐私（DP）合成表格数据中的公平性问题进行了首次系统性基准评估。研究背景是机器学习模型在高风险领域（如金融、医疗）的部署日益普遍，隐私和公平性成为关键关注点。差分隐私已成为隐私保护数据分析的金标准，而公平性机制旨在减轻对弱势群
FedCVESA: Taking Away Training Data in Federated Learning via Correlation Value Encoding and Segmented Aggregation
本文研究了联邦学习（FL）中的一种新型攻击：中央化“取走训练数据”（TATD）攻击。传统的TATD攻击利用深度模型的记忆能力存储并恢复训练数据，但在联邦学习环境中，多客户端平均聚合可能会覆盖编码后的数据，使得攻击难以实现。为此，作者提出了F
Continual Learning With Participation Privacy: An Auditable Buffering-Aggregation Recipe
该论文研究了持续学习中参与隐私（Participation Privacy）的挑战。在联邦学习和流式学习场景中，模型通常持续更新并释放中间模型，因此隐私保护需要覆盖整个动态交互轨迹。作者针对单次编辑（single-edit）相邻用户流这一模
Is Randomness Necessary for Adaptive Data Analysis?
该论文研究了自适应数据分析（Adaptive Data Analysis, ADA）中的基本问题：随机性是否必要？ADA 问题形式化了在数据集被重复使用时防止虚假发现和过拟合的挑战。输入是一个包含 n 个独立同分布样本的数据集，来自未知分布
Assessing the Operational Impact of Poisoning Attacks over Augmented 3D Point Cloud Public Datasets for Connected and Autonomous Vehicles
该论文系统评估了针对增强3D点云公共数据集的投毒攻击的操作性影响。随着自动驾驶和联网汽车的发展，3D点云数据被广泛用于训练感知模型，但公共数据集可能遭受投毒攻击，导致分类错误或后门注入。传统观点认为数据增强技术（如旋转、缩放、噪声添加）可以
POPS: Recovering Unlearned Multi-Modality Knowledge in MLLMs with Prompt-Optimized Parameter Shaking
该研究针对多模态大语言模型（MLLM）中的机器遗忘（Machine Unlearning）机制的安全性提出质疑。MLLM在训练时可能无意中编码了隐私敏感数据，因此多模态机器遗忘（MMU）被用于强制模型遗忘这些信息。但作者发现，当模型公开后，
ORAN-DEFEND: Subspace Detection and Sanitization of Backdoor DRL xApps in Open RAN
开放无线接入网络（O-RAN）越来越多地将近实时控制委托给从第三方供应商获取的深度强化学习（DRL）xApp，这引入了新的供应链攻击面。后门策略在正常情况下表现最优，但一旦对手向观察到的关键性能指标（KPI）遥测数据中注入隐蔽触发器，就会产
The Power of Backdoor Absorption in Community Training
该论文研究了分布式训练场景中的后门攻击防御问题。在联邦学习或去中心化训练中，模型所有者将训练任务外包给外部计算提供商，攻击者可能通过注入低频、隐蔽的触发器植入后门，同时规避常规审计。传统检测方法需要重新计算整个训练过程，计算开销极大，与所有