Policy-Masked Private Experts: Auditable and Reversible Capability Access Control in Sparse MoE Models
该论文研究了一个新颖的系统安全问题：能否通过可信授权机制，在稀疏混合专家（MoE）大语言模型中控制新训练参数的可见性与可执行性，从而实现细粒度的能力访问控制。传统访问控制只限制模型输出行为，但所有请求仍可调用全部计算参数；本文提出了一种名为
#cs.LG
共收录 1067 条相关情报。
← 返回所有主题Fairis: Fairness-Aware Aggregation with Provable Influence Containment against Fairness Poisoning Attacks in Collaborative Machine Learning
协作机器学习允许金融机构在不直接共享数据的情况下共同训练模型，但必须同时满足群体公平性和对抗鲁棒性。然而，现有的公平性感知聚合方法在形式上容易受到“公平性投毒”攻击：恶意客户端可以在保持模型准确性的同时最大化群体差异（例如不同组间的等机会差
Hardware Keystores for AI Agent Signing Workflows: A Zero-Trust MCP Enforcement Architecture
该论文针对 AI 代理在执行密码学操作（如 Git 提交签名、API 调用认证、证书签发）时私钥存储不安全的问题展开研究。当前常见做法将私钥存放在软件可访问的位置（明文文件、环境变量或容器内存），任何具备足够读权限的进程都能提取原始密钥材料
ABC: Numerical Data Collection under Local Differential Privacy without Prior Knowledge
本文针对本地差分隐私（LDP）下数值数据收集中的一个核心难题：传统LDP机制通常需要预先定义数据域（即数值的取值范围），但在实际应用中该范围往往未知。若预设范围过窄，超出范围的值会被截断，造成信息丢失；若预设范围过宽，则扰动阶段会加入过多噪
Enhancing Anomaly Resilience in Research Networks: A Large-Scale Forecasting Benchmark for Dynamic Security Baselining
本文针对研究与教育网络（RENs）面临的独特安全悖论展开研究。RENs 承载着大规模、突发性的“大象流”正常科研流量，这些流量在统计特征上与 DDoS 等容量型攻击高度相似，导致传统监控系统产生大量误报，进而使安全运营人员无法及时发现真实威
Behavioral Residualization for Unsupervised Intrusion Detection in Automotive CAN Networks
现代汽车依赖控制器局域网（CAN）总线进行内部通信，其设计优先考虑低成本和实时性，但缺乏消息认证与加密机制。因此，攻击者若获得物理或远程访问权限，即可注入任意CAN帧，威胁车辆安全。入侵检测系统（IDS）作为纵深防御的关键环节，被广泛研究。
Robust Context-Aware Detection of Malicious Instructions in Text
该论文聚焦于大型语言模型（LLM）在代理（agent）场景下所面临的间接提示注入（Indirect Prompt Injection, IPI）攻击。现代LLM具备出色的指令跟随能力，常被用作自主完成复杂任务的代理，但这也使其易受嵌入在文本
An Emerging Retail Portfolio Management Application: Personalized, Tax-Aware Reinforcement Learning with Natural Language Goals
本文提出并实现了一个面向零售投资者的个性化、税务感知的投资组合管理应用，填补了个人投资者与机构级服务之间的空白。现有机器人顾问多采用静态规则配置，而机构级系统往往有高门槛和专有技术栈，普通投资者难以使用。该应用包含 FastAPI 后端和网
When Does Latent Communication Pay? A Causal Audit of Relayed KV Caches in Multi-Agent LLMs
该论文对多智能体大语言模型（LLM）系统中中继键值缓存（KV cache）的因果有效性进行了审计。在多智能体系统中，智能体之间常以中继 KV 缓存代替明文文本，并声称这传递了“潜在思维”（latent thoughts）。论文指出，这种归因
DeepInvert: Semi-Supervised Embedding Inversion Against Obfuscated Language Models
本文针对云端语言模型服务中基于混淆的隐私防御提出了一项有效的嵌入反转攻击。当前，云语言模型服务在处理包含敏感信息的提示时，通常采用混淆技术（如ObfusLM、SentinelLMs、TextObfuscator和DPNR）在传输前转换提示表
Manipulation-Proof Oblivious Audits against Deceptive Model Providers
本文提出一种针对机器学习模型审计的防操纵协议，旨在解决模型提供方在审计过程中可能故意或无意地操纵评估结果的问题。在监管审计等场景中，审计行为通常会被声明或容易暴露，模型提供方可能借此推断审计所关注的敏感属性，并策略性地调整不同组别之间的资源
Trident : How to Break Deep Reinforcement Learning Cyber Defenses (Agentic)
该论文提出并实现了一个名为 Trident 的智能体化 LLM 红队框架，用于评估和攻破基于深度强化学习（DRL）的自主网络防御系统。研究背景在于：现有的 DRL 防御评估几乎完全依赖静态或启发式红队智能体，缺乏对自适应威胁的鲁棒性检验；同
PriDyG: Privacy-preserving Dynamic Graph Inference with LLM-GNN Collaboration
本文提出 PriDyG，一个面向动态图推断的隐私保护框架，旨在解决关系型数据上的图推断可能泄露敏感边信息的问题。在动态图中，模型反复更新会导致隐私损失累积，使得问题更加严重。作者形式化了边级差分隐私动态图推断（EDG）问题，并设计了一种结合
Understanding Fault Tolerance of Adversarially Robust Pruned Models
本文针对深度神经网络（DNN）在资源受限的神经形态硬件上部署时面临的三个并发挑战——剪枝压缩、对抗输入扰动和硬件故障（如stuck-at-zero权重错误）——进行了系统的实证研究。尽管这些因素在已有文献中均被单独探讨，但它们的联合效应尚未
FBID: Adaptive Personalized Federated Learning for Robust Out-of-Distribution Attack Detection in IoT Networks
本文针对异构物联网环境中的入侵检测问题，提出了一种名为FBID（Federated Bandit Intrusion Detection）的自适应个性化联邦学习框架。现有基于个性化联邦学习（PFL）的入侵检测方法通常依赖客户端自行调整模型，
When Modalities Fail to Tango: Conformal Backdoor Detection in Multimodal Contrastive Learning
本文针对多模态对比学习（MCL）中的后门攻击检测问题展开研究。MCL 模型（如 CLIP）被广泛用于预训练，但其容易受到后门攻击的影响，现有基于检测的防御手段主要依赖 CLIPScore 指标，假设中毒图像-文本对具有较低的语义相似度。然而
Provably Learning Multi-Head Attention with Queries
本文研究从黑盒输入输出访问中学习多头softmax注意力机制的问题。在给定查询token序列的情况下，学习者只能观察到最终token的标量输出。以往的工作提出了使用O(d^2)次值查询恢复单头注意力参数(W,v)的算法，但对于多头注意力，已
Beyond the QBER Threshold: A Temporal QBER Based Machine Learning Framework for Multi Attack Detection in BB84 QKD
本文针对传统 BB84 量子密钥分发（QKD）系统中固定 11% 量子误码率（QBER）阈值检测窃听方案的不足，提出了一种基于时间维度 QBER 的机器学习框架，用于多类型窃听攻击的检测与分类。传统方法仅依赖会话级平均 QBER，而隐蔽攻击
Noise-Aware Shrinkage for Differentially Private Zeroth-Order Fine-Tuning of Large Language Models
本文针对差分隐私零阶优化（DP-ZO）在大语言模型（LLM）微调中的局限性，提出了一种噪声感知的自适应收缩方法 SAGE。DP-ZO 仅利用前向传播评估即可实现内存高效的私有微调，是当前隐私保护 LLM 微调的重要技术路线。然而，现有基于聚
ShielDroid: A Hybrid Approach Integrating Machine and Deep Learning for Android Malware Detection
随着智能设备（如智能手机和平板电脑）的普及，移动应用生态蓬勃发展，但恶意软件也日益猖獗。尽管官方应用商店要求应用在上架前通过恶意软件筛查，许多恶意应用仍能通过隐藏复杂变种绕过检测，且其恶意行为往往仅在运行时触发，传统的静态分析难以识别，导致