RADAR: Defending RAG Dynamically against Retrieval Corruption
该论文针对检索增强生成（RAG）系统在动态网络搜索场景中易受对抗性攻击的问题，提出了一种名为RADAR的动态防御框架。现有静态防御方法难以应对不断演变的攻击模式，且在动态环境中存储成本过高。RADAR将可靠的上下文选择建模为基于图的能量最小
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题Optimal Guarantees for Auditing Rényi Differentially Private Machine Learning
本文研究针对声称满足 Rényi 差分隐私 (RDP) 的机器学习算法的黑盒审计问题。作者提出一个基于假设检验的审计框架，利用 Donsker-Varadhan (DV) 变分估计器直接估计相邻执行之间的 Rényi 散度。该框架通过类别受
CCLab: Adversarial Testing of Learning- and Non-Learning-Based Congestion Controllers
拥塞控制器（CC）对网络性能至关重要，但其在恶劣条件下的鲁棒性尚未得到充分理解。近年来，基于学习的CC在受控环境中表现强劲，但它们在输入信号被破坏或环境条件系统性地变得具有挑战性时，与传统CC相比表现如何仍不清楚。本文提出CCLab，一个用
Provable Robustness against Backdoor Attacks via the Primal-Dual Perspective on Differential Privacy
本文提出了一种基于差分隐私的原偶视角（primal-dual perspective）来证明机器学习模型对后门攻击的鲁棒性。后门攻击同时污染训练数据和测试数据，使得现有仅针对训练时或推理时单一阶段的随机平滑认证方法失效。作者将随机平滑与差分
HIDBench: Benchmarking Large Language Models for Host-Based Intrusion Detection
该论文提出了HIDBench，一个专门评估大型语言模型（LLM）在基于主机的入侵检测（HIDS）任务中能力的基准。现有网络安全基准多聚焦渗透测试或漏洞识别，而基于系统日志的入侵检测这一关键任务尚未被系统评估。HIDBench统一了三个公开系
ASSEMBLAGE-DEEPHISTORY: A Cross-Build Binary Dataset with Temporal Coverage
该论文提出了ASSEMBLAGE-DEEPHISTORY，一个跨构建的二进制数据集，旨在弥补现有二进制语料库缺乏时间维度、跨编译多样性以及CVE标签组合的不足。数据集包含73,610个二进制文件，涵盖248个开源项目，使用GCC、Clang
Choose Wisely and Privately: Proactive Client Selection for Fair and Efficient Federated Learning
联邦学习通过不传输原始数据的方式实现分布式模型训练，但平均聚合方法受非独立同分布（non-IID）数据的严重影响，导致收敛速度慢和模型精度下降。现有替代方案具有显著的低效性：带有噪声或高度异构数据的客户端贡献了昂贵的梯度计算，这些计算在聚合
GenAI-Driven Threat Detection with Microsoft Security Copilot
该论文针对当前日益复杂的网络攻击环境下，安全分析师需要不断将攻击者不断演进的战术转化为检测逻辑，导致防御者处于被动应对状态的问题。作者提出了一种名为动态威胁检测代理（DTDA）的持续自适应系统，该系统集成于Microsoft Securit
Frequency-Domain Regularized Adversarial Alignment for Transferable Attacks against Closed-Source MLLMs
多模态大语言模型（MLLMs）尽管性能强大，但仍易受基于迁移的目标攻击：攻击者在开源代理编码器上优化扰动，该扰动可泛化至闭源MLLMs。提升对抗迁移性的关键在于有效捕获不同模型共享的内在视觉焦点，使扰动对齐可迁移的语义线索而非代理特定行为。
Trusted Weights, Treacherous Optimizations? Optimization-Triggered Backdoor Attacks on LLMs
该论文首次揭示了LLM推理优化（尤其是编译优化）中存在的安全漏洞，并提出了一种新型后门攻击——优化触发后门。作者指出，尽管编译优化在部署LLM时广泛使用，且默认假设编译后的计算图与原始计算图语义等价，但编译过程中的数值副作用可能被恶意利用，
An exponential mechanism based on quadratic approximations for fine-tuning machine learning models with privacy guarantees
本文针对预训练机器学习模型在微调过程中可能记忆敏感数据的问题，提出了一种基于指数机制的随机算法，以实现差分隐私保护。核心思路是构造一个简单的效用函数，该函数结合了预训练模型的局部二次近似与新数据集的信息，使得指数机制能够从多元正态分布中闭式
SMA-DP: Spectral Memory-Aware Differential Privacy for Deep Learning
本文提出了一种名为 SMA-DP-SGD（Spectral Memory-Aware Differentially Private Stochastic Gradient Descent）的新方法，旨在改进差分隐私深度学习中的效用问题。标准
Latent Geometry as a Structural Monitor: Eigenspace Alignment for Anomaly Detection in Anonymity Networks
本文提出了一种基于潜几何结构进行异常检测的新型框架。传统异常检测方法通常在测量信号超过预设阈值时才发出告警，只能捕捉到状态转变的瞬间，而无法感知转变前的结构压力。作者将大规模行为群体（如匿名网络中的节点行为）视为一个几何能量景观，其形变可以
Causal Unlearning in Collaborative Optimization: Exact and Approximate Influence Reversal under Adversarial Contributions
该论文提出了一种高效的联邦学习因果遗忘方法 HF-KCU，用于在不完全重训练的情况下移除特定客户的数据贡献，以满足隐私法规（如 GDPR）的数据删除要求。传统方法从头重训练计算成本极高（O(d^3)），而 HF-KCU 通过 Krylov
SAGE: Scalable Automatic Gating Ensemble for Confident Negative Harvesting in Fraud Detection
该论文针对音乐流媒体平台中的人为篡改播放量欺诈问题，提出了一种可扩展的自动门控集成方法SAGE。传统欺诈检测方法在区分超级粉丝、助眠音乐等合法边缘场景与协调欺诈行为时面临挑战，因为两者行为模式高度相似。SAGE结合了SimHash分层层抽样
LLM Benchmark Datasets Should Be Contamination-Resistant
本文探讨了大型语言模型（LLM）基准数据集被预训练语料库污染的问题。污染导致基准数据集无法可靠衡量模型的泛化能力。作者提出基准数据集应具有“抗污染”特性，即数据集对训练不可学习（unlearnable），但支持推理（inference）。为
Auditing Privacy in Multi-Tenant RAG under Account Collusion
本文聚焦于多租户检索增强生成（RAG）服务中的隐私审计问题。现有RAG系统通常声称每个账户满足差分隐私（DP），即每个账户的查询对索引满足（ε_acc, δ_acc）-DP。然而，作者发现同租户下多个账户合谋（即同一租户的多个账户协调攻击其
Awakening the Hydra: Stabilizing Multi-Concept Backdoor Injection in Text-to-Image Diffusion Models
本文研究了在文本到图像扩散模型的多概念后门注入场景中，由于多个后门触发器-目标关联共存导致的语义冲突和不稳定问题。随着开源模型重用和下游微调的普及，同一个预训练模型可能被多个独立方顺序适配和重新分发，导致多个概念特定的后门行为累积。这种累积
Inferring Sensitive Attributes from Knowledge Graph Embeddings: Attack and Defense Strategies
知识图谱（KG）作为链接数据的强大表示，具有灵活性、语义丰富性，并支持知识丰富化和推理，帮助数据所有者组织和利用异构数据提供个性化服务。然而，真实世界的知识图谱往往不完整，隐藏了真实事实或缺失有价值信息。知识图谱嵌入（KGE）技术常用于推断
Adaptive Probe-based Steering for Robust LLM Jailbreaking
本文提出了一种基于自适应探测导向的鲁棒大型语言模型（LLM）越狱方法。现有对比导向攻击依赖于有限且存在固有偏见的对比提示，并需要繁琐的手动调整导向强度，导致鲁棒性和有效性不足。作者借鉴模型提取的思想，通过学习的导向向量逼近理想导向向量，并基