Dithered Gaussian Mechanism for Randomness-Efficient Differential Privacy
本文提出了一种新的差分隐私（DP）机制——抖动高斯机制（Dithered Gaussian Mechanism），作为传统离散高斯机制的替代方案。与离散高斯机制直接离散化噪声分布不同，抖动高斯机制通过后处理高斯机制来离散化私有输出，从而直接
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题6G Sensing Security: Distributed Game-Theoretic RL for Urban Beamforming and Attacker Detection
该论文针对6G网络中的安全挑战，特别是集成感知与通信（ISAC）系统中的攻击者检测问题。在6G网络中，通信系统不仅传输数据，还能感知周围环境，实现ISAC。然而，这种能力也引入了新的安全风险：攻击者可以操纵波束赋形方向以增加干扰，误导发射机
REAN: Reconstruction-aware ECG Anonymization Based on Privacy--Utility Orthogonality
心电图（ECG）信号包含生物特征信息，共享原始ECG信号可能导致患者重识别和隐私泄露。现有的ECG匿名化方法在隐私保护与效用保留之间存在权衡：增强隐私往往会降低下游任务（如心律失常检测）的性能，而保留效用则容易泄露个人信息。针对这一问题，本
Multi-Channel Spread-Spectrum Code Watermarking
该论文提出了一种名为多通道扩频码水印（Multi-Channel Spread-Spectrum Code Watermarking）的新方法，用于解决大型语言模型（LLM）生成代码的归属问题。现有方案分为生成时水印和事后水印：生成时水印需
Auditing of Unlearning Algorithms
本文针对机器学习模型遗忘算法是否真正消除了训练数据影响的问题，提出了一种实用的审计方法。研究者设计了一个基于成员推断攻击的审计器，通过计算与数据相关的遗忘参数ε的下界，来评估遗忘算法是否达到其声称的隐私保证。在CIFAR-100和Shake
Calibration-Family Overfit: Why Trusted Sabotage Monitors Don't Transfer Across Lineages
本文研究AI安全控制中的可信监控（trusted monitoring）防线。可信监控依赖一个更便宜的“可信模型”对“不可信模型”的行为进行评分，以检测潜在的破坏性行为（如后门攻击）。传统评估仅针对一个或两个不可信模型报告准确率，但本文质疑
Statistical Adversaries: Natural Backdoor-like Features in Vision Datasets
该论文研究了一种新型的视觉模型脆弱性：数据集本身存在的自然统计信号，可以在没有恶意注入的情况下充当类似后门触发器的角色。作者将这种信号称为“统计对手”（statistical adversaries）。与传统的模型特定对抗攻击不同，这些信号
Selective Disclosure Watermarking for Large Language Models
大型语言模型（LLM）生成的文本中嵌入水印是一种追踪合成内容来源或验证其真实性的技术。现有方法分为零比特方案（仅区分机器与人类写作）和多比特方案（嵌入元数据如时间戳、模型版本）。然而，当前多比特水印方案存在一个关键缺陷：验证器必须解码整个嵌
Learning Only What Valid Adapters Can Express: Subspace-Constrained Adaptation Against Fine-Tuning Poisoning
该论文针对参数高效微调（PEFT）中的安全风险，特别是微调投毒攻击，提出了一种子空间约束的微调方法。研究背景是：PEFT虽然只更新少量参数，但仍有足够能力表示恶意行为，使得投毒目标函数可被优化。为此，作者从现有任务适配器的可信池中估计出一个
Untrusted Content Masking for Web Agents with Security Guarantees
本文针对Web代理面临的提示注入攻击问题，提出了一种名为“不可信内容遮蔽”（Untrusted Content Masking, UCM）的防御方法。在基于文本的工具调用API等环境中，可信指令与不可信数据天然分离，代理可以基于接口定义进行
Privacy-Preserving Robustness Verification for Neural Networks
该论文提出SecureCROWN，首个用于隐私保护神经网络鲁棒性验证的框架。神经网络验证与数据隐私存在固有矛盾：验证需要完全访问模型参数和输入数据，但这受到隐私法规和知识产权限制。SecureCROWN基于安全两方计算（2PC），使模型所有
Full-range Binary Classifier Calibration for Stable Model Updates in Production
本文针对部署在对抗性环境中的安全检测模型，提出了一种全范围二元分类器校准方法（Full-range Binary Classifier Calibration）。在恶意流量/样本分布快速漂移而良性分布相对稳定的场景下，安全团队需要频繁重训练
TACTIC-KG: Toward Small Agent Teams for Cyber Threat Intelligence Knowledge Graph Construction
网络威胁情报（CTI）报告通常是非结构化、异构且包含噪声的，这限制了它们在自动化分析与推理中的直接可用性。网络安全知识图谱（CSKG）能够以结构化形式表示攻击实体、行动和关系，但从自由文本CTI中构建此类图谱仍然是一个挑战。现有方法通常依赖
Layer-Parallel Inference Reduces Encrypted Nonlinear Depth in Transformers
本文研究全同态加密（FHE）下Transformer推理的效率问题。FHE允许对加密数据进行计算，但现有加密Transformer推理受限于大量非线性块（如softmax、RMSNorm）的串行组合，导致巨大的计算开销和噪声积累。作者提出结
Towards Personalized Differentially Private Learning for Decentralized Local Graphs
该论文针对分布式环境下局部图数据的隐私保护问题展开研究。随着社交网络、移动应用和边缘计算等场景的普及，图结构数据越来越多地以去中心化方式生成和存储，用户对自身局部图数据拥有控制权。然而，在利用这些数据进行下游学习任务时，节点及其属性常包含敏
F-ACVAE: A Federated Adaptive Conditional Variational Auto-Encoder for Privacy-Preserving Intrusion Detection in IoT Networks
本文提出了一种名为F-ACVAE（联邦自适应条件变分自编码器）的框架，旨在解决物联网（IoT）网络中的隐私保护入侵检测问题。随着IoT设备激增，网络攻击面扩大，但传统的集中式入侵检测系统（IDS）面临高维流量数据、极端类别不平衡以及异构边缘
Retroactive Chain-of-Thought (RetroCoT): Forensic Reconstruction Prompts as a Safety Diagnostic Across Model Generations
本文发现大型语言模型的安全对齐高度依赖于语用语境（pragmatic register），即模型对直接有害请求的拒绝并不能泛化到相同底层意图但不同语用表述的请求上。作者提出了一种名为“回溯式思维链”（RetroCoT）的单轮攻击方法，该方法
One Framework for All: Cross-Modal Membership Inference for Generative Models
本文提出首个统一框架，用于对文本生成、文本到图像、图像到文本三种模态的生成模型进行成员推理攻击（MIA）。现有方法针对单一模态设计，无法跨模态适用。作者发现一个模态无关的观察：生成模型的输出分布可近似其训练数据分布。利用这一特性，他们在共享
!Imperio, smolVLA: The Implications of Data Poisoning on Open Source Robotics
该论文研究了针对开源机器人视觉语言动作模型（VLA）的数据投毒攻击，特别是触发词（trigger-word）投毒。作者指出，当前开源机器人生态系统在社区贡献的数据集上存在信任假设，而攻击者可以通过注入少量中毒样本就能隐蔽地嵌入后门，使机器人
SABLE: An NDA-Safe Closed-Loop LLM Framework for Analog Circuit Optimization in Industrial EDA Flows
该论文提出SABLE（Safe Analog Boundary for LLM-driven EDA），一个在工业模拟集成电路设计流程中安全使用大语言模型（LLM）进行电路优化的无保密协议（NDA）安全闭环框架。工业模拟EDA流程涉及代工厂