RAGSentinel: Certifiable Geometric Consensus for Robust Retrieval-Augmented Generation
检索增强生成（RAG）通过引入外部文档来提升大语言模型的事实性，但同时也引入了新的安全攻击面：恶意攻击者可以向知识库注入经过精心构造的对抗性文档，这些文档一旦被检索并进入上下文窗口，就可能引导模型输出特定的错误答案。现有的后检索防御手段，例
#cs.LG
共收录 1064 条相关情报。
← 返回所有主题NeuronGuard: Robust LLM Safety Alignment via Ablation-Aware Safety Signal Redistribution
大型语言模型（LLM）的安全对齐在面对日益增长的攻击手段时仍然脆弱。越狱攻击通过精心设计的提示绕过安全机制，而神经元级攻击则在部署后直接剪除对安全至关重要的神经元。这两类攻击的共同弱点是：安全相关信息集中于稀疏的神经元子集。为此，本文提出
Semantic Overlays: Mitigating Prompt Injection with Annotations Beyond Tokens and Steering Vectors
本文针对大语言模型（LLM）面临的提示注入（Prompt Injection）攻击提出了一种新的防御思路。研究指出，当前模型仅能感知输入的令牌（tokens），虽然服务端清楚每个文本片段属于用户输入、工具输出还是指令，但模型自身却需要自行追
Robustness of Anomaly Detection Models for Industrial Control Systems under Training-Time Data Contamination
这篇 arXiv 论文研究了工业控制系统（ICS）中基于机器学习的异常检测模型在训练数据被污染情况下的鲁棒性问题。研究背景是：现有研究大多假设异常检测器的训练数据是可信的，但在实际工业环境中，训练数据可能因日志被篡改、标注错误、历史数据库记
RAD: Rule-Augmented Relational Anomaly Detection
本文研究关系数据库中的异常检测问题，指出传统方法通常需要将多表数据展平为单一特征矩阵，这一过程会丢失实体身份、表结构以及多跳依赖关系，从而难以发现依赖关系上下文的异常。为此，作者提出一种规则增强的关系异常检测方法 RAD（Rule-Augm
Spectrum-Aware Bounds on Invertibility for Privacy-Enhancing Instance Encoding
实例编码（Instance Encoding）作为一种常用的隐私增强技术，在将数据共享给不受信任的服务器时，通过对敏感数据进行变换，希望既能保留下游任务所需的效用，又能使攻击者难以重建原始数据。尽管该技术在实践中被广泛采用，但大多数研究工作
Graph Representation Learning of Lightweight IoT Ciphers
该论文研究轻量级分组密码 SIMON 和 SIMECK 的差分分析可视化问题。SIMON 与 SIMECK 同属基于 Feistel 结构的轻量级密码算法，广泛应用于物联网设备，但这类密码对差分密码分析敏感，需要评估其抵抗能力。现有方法多用
Safety Hacking in Constrained Best-of-$N$ Inference-time Scaling
本文研究推理时扩展（Inference-time Scaling）中安全模型与奖励模型组合产生的安全漏洞。典型推理时流水线会采样多个候选输出，通过一个学习的安全代理过滤掉不安全的输出，然后从剩余“代理可行”集合中选择学习奖励最高的输出。作者
DIME: Query-Efficient Framework for Membership Inference on Diffusion Models
DIME 是一篇针对扩散模型成员推理攻击的研究论文。成员推理攻击旨在判断某个数据样本是否被包含在模型训练集中，这类攻击对数据隐私构成直接威胁。已有的扩散模型成员推理攻击大多依赖启发式策略，且需要较大的查询预算，实用性受限。DIME 从理论层
EGAMA-RC: Risk-Calibrated Evidence-Gated Adaptive Malware Analysis for Robust and Interpretable Memory-Forensic Triage
本文提出了一种名为 EGAMA-RC 的风险校准证据门控自适应恶意软件分析框架，用于内存取证场景下的恶意软件分类与分流。传统机器学习恶意软件检测器在干净数据上准确率较高，但实际运营中的分流任务还需考虑不确定性、新颖性、鲁棒性、可解释性、延迟
Mitigating Explanation Leakage in Financial Fraud Detection Systems
金融欺诈检测系统通常依赖集中式机器学习模型，这带来严重的数据隐私风险。联邦学习（FL）通过将数据处理分散到各参与方来缓解这一问题，但金融监管仍要求模型具备可解释性，因此常使用TreeSHAP等可解释人工智能（XAI）工具。然而，近期网络安全
Neighbor-embedded Graph Neural Network-based Crowd Delivery Traffic Management in Smart City
本文针对智慧城市中车辆交通激增带来的拥堵问题，提出了一种基于邻域嵌入图神经网络（GNN）的众包配送交通管理模型（NeCDM）。研究背景是现有交通管理方法主要依赖拥堵预测，但未能有效解决交通流量减少和配送车辆智能选择等核心目标。NeCDM 模
Model-Consistent Byzantine-Resilient Decentralized Federated Learning for Collaborative Missions
本文提出了一种名为 DFL-C 的新型拜占庭鲁棒去中心化联邦学习（DFL）架构，旨在解决去中心化场景下全局模型一致性问题。传统的去中心化联邦学习允许各节点在没有中央服务器的情况下协同训练 AI 模型，但现有方案无法保证全局模型一致性，这在任
KONTOGRAPH: Verified Point-in-Time Feature Consistency and Amortised Explanation for Real-Time Anti-Money Laundering under a 200 ms Decision Budget
欧盟法规 (EU) 2024/886 要求欧洲支付服务商在十秒内完成欧元信用转账结算，且全天候运行，这彻底取消了传统反洗钱（AML）分析所依赖的隔夜批处理窗口，也消除了结算延迟带来的追回可能，迫使检测、解释与决策必须在个位数秒级时间内完成。
Autonomous Cyber Defense: Real-Time Attack Detection and Mitigation in Software-Defined Networks Using Machine Learning
该论文针对传统人工响应已无法跟上攻击者速度的问题，提出了一种基于机器学习的自主网络防御系统，可在软件定义网络（SDN）中实时检测攻击并自动应用缓解措施。研究背景指出，2025年平均网络犯罪突破时间（从初始访问到首次横向移动的间隔）已缩短至2
BeTaL-GBI: Admission-Aware Benchmark Tuning and Full-Stack Verification of Geometric Belief Interfaces
本文提出 BeTaL-GBI，一个面向“几何信念接口”（Geometric Belief Interfaces）的可信验证基座，核心目标是让企业级验证架构不仅能检查模型输出，还能暴露自身声明中的错误。作者首先指出先前版本 GBI-DCSE
BackDFL: A Unified Benchmark For Backdoor Attacks and Defenses In Decentralized Federated Learning
去中心化联邦学习（DFL）通过点对点模型交换替代中心化参数服务器，旨在实现无需信任的协作学习。然而，这种架构转变从根本上重塑了威胁模型：由于缺乏全局协调的聚合机制，DFL特别容易受到后门攻击的影响——恶意参与者可以在保持干净任务性能的同时植
SAC-Copula: Quality-Preserving Watermarking for Diffusion Language Models via Smooth Correlated Gumbel Fields
该论文提出 SAC-Copula，一种面向扩散语言模型（DLM）的保质量水印方法。与自回归解码不同，DLM 采用迭代并行去掩码机制，现有基于采样的水印方法通常注入逐位置的独立同分布扰动，与 DLM 的解码动态不匹配，导致生成质量下降。SAC
Explainable Adaptive Zero Trust Framework for AWS with Adversarial Robustness Evaluation
该论文针对AWS云环境中存在的一个结构性安全缺陷：一旦凭证通过认证，其会话在整个生命周期内通常被无条件信任，这导致凭证一旦泄露，攻击者即可持久利用。为此，作者提出了一种可解释的适应性零信任框架（EAZTF），作为云原生安全层，在整个会话过程
Keyed Provenance Watermarking with Complementary Lattice-Based Secure Aggregation for Federated Learning
联邦学习（FL）面临多层次安全威胁，包括数据泄露、未经授权的模型重用以及恶意梯度操纵。现有防御方法通常孤立地处理这些问题，缺乏端到端的统一防护框架。本文提出一种将带密钥的上下文来源水印与基于格的可验证安全聚合相结合的新型联邦学习框架，旨在同