Jacobian-Guided Anisotropic Noise Reshaping for Enhancing Representation Utility under Local Differential Privacy
局部差分隐私（LDP）作为分布式数据收集的基元，其严格的噪声注入要求常导致数据效用严重下降。传统LDP机制是任务无关的，在所有维度上均匀施加噪声，忽略了不同维度对下游任务的相对重要性。本文提出一种新颖方法，在数据表示的任务相关子空间中减轻噪
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题On-Device Interpretable Tsetlin Machine-Based Intrusion Detection for Secure IoMT
本文针对医疗物联网（IoMT）环境中日益增长的网络安全威胁，提出了一种基于Tsetlin Machine（TM）的设备端可解释入侵检测系统（IDS）。TM是一种规则驱动的透明机器学习方法，通过命题逻辑表示攻击模式，具有天然的强可解释性。作者
Public-Decay Homomorphic State Space Models for Private Sequence Inference
该论文提出了一种基于同态加密的状态空间模型（HSSM），用于在加密数据上执行序列推理任务。全同态加密（FHE）在序列模型中的应用面临旋转操作、密文乘积、密文物化、乘法深度和自举等成本问题。论文的核心创新是引入“公钥衰减”（public-de
A Multi-Layer Cloud-IDS Pipeline with LLM and Adaptive Q-Learning Calibration
该论文针对云计算环境中入侵检测系统（IDS）面临的挑战——分层动态架构、未知攻击/零日攻击，以及机器学习模型在实验环境表现良好但在实际云部署中性能下降的问题，提出了一种基于强化学习的多层级、置信度感知的入侵检测框架。系统覆盖网络层、主机层和
Known By Their Actions: Fingerprinting LLM Browser Agents via UI Traces
本研究探讨了基于 LLM 的浏览器代理在执行网页任务时，其行为模式是否可被网站被动识别以推断底层模型身份。作者针对 14 个前沿 LLM（如 GPT-4、Claude 等）和四种网页环境（包括信息检索和购物任务）进行了实验。通过被动 Jav
One Step to the Side: Why Defenses Against Malicious Finetuning Fail Under Adaptive Adversaries
随着大语言模型（LLM）的广泛应用，模型提供商越来越多地发布开放权重或允许用户通过API进行微调。尽管这些模型在发布前经过了安全对齐（safety alignment），但大量研究表明，通过针对有害数据的微调可以轻易移除其安全护栏。为此，近
Angel or Demon: Investigating the Plasticity Interventions' Impact on Backdoor Threats in Deep Reinforcement Learning
该论文系统研究了深度强化学习（DRL）中可塑性干预（plasticity interventions）对后门攻击威胁的影响。可塑性干预是现代DRL智能体的内置组件，用于缓解可塑性损失，但其对后门漏洞的作用尚不明确。作者通过大规模实证研究，分
LiSA: Lifelong Safety Adaptation via Conservative Policy Induction
本文提出了 LiSA (Lifelong Safety Adaptation) 框架，旨在解决 AI Agent 部署后的安全护栏适应性问题。随着 AI Agent 从聊天界面扩展到读取私有数据、调用工具和执行多步骤工作流，护栏失效的后果不
Systematic Discovery of Semantic Attacks in Online Map Construction through Conditional Diffusion
本文提出 MIRAGE 框架，用于系统性地发现针对自动驾驶在线高清地图构建的语义攻击。自动驾驶车辆依赖高清地图感知车道线、分隔带、人行横道等安全关键元素，现有像素扰动攻击易被标准对抗防御（如对抗训练）中和。MIRAGE 利用扩散模型学习到的
To See is Not to Learn: Protecting Multimodal Data from Unauthorized Fine-Tuning of Large Vision-Language Model
该论文针对大视觉语言模型（LVLM）在多模态网页数据上遭受的未授权爬取和训练问题，提出了一种名为MMGuard的主动防御方法。现有对策如机器遗忘和水印均属于事后处理，无法在知识产权侵犯发生前进行保护。MMGuard通过生成难以学习的样本（u
MetaMoE: Diversity-Aware Proxy Selection for Privacy-Preserving Mixture-of-Experts Unification
该论文提出 MetaMoE，一个隐私保护的混合专家（MoE）模型统一框架。在现实场景中，训练数据通常分布在多个客户端且无法共享，导致无法直接训练统一的 MoE 模型。MetaMoE 利用公开的代理数据作为私有数据的替代，通过多样性感知的代理
VectorSmuggle: Steganographic Exfiltration in Embedding Stores and a Cryptographic Provenance Defense
现代检索增强生成（RAG）系统将敏感内容转换为高维嵌入向量并存储在向量数据库中，这些数据库将产生的数值视为不透明数据。主流向量存储产品缺乏针对嵌入完整性、摄入时分布异常检测或加密来源证明的原生控制。本文揭示了一类隐写泄露攻击：拥有摄入管道写
DisAgg: Distributed Aggregators for Efficient Secure Aggregation in Federated Learning
本文提出了一种名为 DisAgg 的新型安全聚合协议，用于联邦学习中的隐私保护。在传统联邦学习中，客户端更新直接暴露给中央服务器，存在隐私风险。现有的安全聚合方案虽然能抵御诚实但好奇的服务器，但通常存在通信轮数多、公钥操作重、难以处理客户端
Limits of Personalizing Differential Privacy Budgets
本文研究了差分隐私中个性化隐私预算的局限性。在差分隐私中，隐私预算ε的选择至关重要，它需要在满足隐私要求的同时最大化数据效用。一种常见的思路是为不同用户（或数据点）分配不同的隐私预算，即个性化隐私预算。然而，本文通过理论分析证明，个性化隐私
Context-Aware Web Attack Detection in Open-Source SIEM Systems via MITRE ATT&CK-Enriched Behavioral Profiling
本文提出 Smart-SIEM，一个为开源 Wazuh SIEM 平台设计的 AI 模块，旨在解决传统基于规则的关联引擎在检测多步 Web 应用攻击时缺乏上下文感知的问题。核心贡献包括：1) 为每个源 IP 构建行为上下文向量，包含 HTT
Backdoor Channels Hidden in Latent Space: Cryptographic Undetectability in Modern Neural Networks
本文系统性地研究了现代神经网络中后门攻击的密码学不可检测性问题。传统后门攻击往往依赖特定的触发器模式，且容易被防御机制检测。受近期密码学进展启发，作者提出了一种基于潜在空间方向的攻击框架，将后门通道建模为网络在训练过程中学习的潜在方向。核心
LoREnc: Low-Rank Encryption for Securing Foundation Models and LoRA Adapters
该论文提出了一种名为LoREnc的训练无关框架，用于保护基础模型（FM）和低秩适配器（LoRA adapter）免受知识产权泄露和模型恢复攻击。现有防御方法通常需要重新训练或访问原始数据集，实用性不足。LoREnc通过频谱截断与补偿技术，在
Code-Centric Detection of Vulnerability-Fixing Commits: A Unified Benchmark and Empirical Study
本研究针对漏洞修复提交（VFC）的自动化检测问题进行了系统性的实证评估。背景是：安全补丁部署的及时性至关重要，但官方漏洞建议库（advisory databases）平均比补丁发布延迟25天，且许多修复从未被收录为建议。当前该领域存在超过2
DiffusionHijack: Supply-Chain PRNG Backdoor Attack on Diffusion Models and Quantum Random Number Defense
本文提出了一种针对扩散模型的新型供应链后门攻击方法——DiffusionHijack。该攻击不修改模型权重，而是通过注入恶意的伪随机数生成器（PRNG）来劫持生成过程中的噪声采样，从而实现对生成图像内容的精确控制。攻击者通过第三方或已受感染
Watermarking Should Be Treated as a Monitoring Primitive
本文提出水印技术应被视为一种监控原语，而非仅用于内容归属。传统上，水印评估侧重于对抗单个样本级别的规避或误报攻击，忽略了在多方参与的场景中，水印信号可能被聚合以推断实体级别信息。作者引入基于观察者的威胁模型，其中观察者可以通过跨输出聚合水印