Unlearning on Spatio-Temporal Graphs through Subgraph Virtual Edge Reconstruction
时空图（Spatio-Temporal Graphs）广泛用于建模复杂动态过程，如时间序列预测、分子动力学和医疗健康监控。随着 GDPR、CCPA 等隐私法规的出台，模型需要支持对未经授权数据的“遗忘”（unlearning），即从已训练模
#cs.LG
共收录 1064 条相关情报。
← 返回所有主题Curvature Cryptanalysis of Smooth Transformer Feed-Forward Networks
本文提出一种针对光滑 Transformer 前馈网络（FFN）的结构性模型提取攻击方法，揭示了黑盒场景下二阶信息泄露内部参数几何的新通道。作者假设攻击者拥有对 FFN 分支的“选定输入-原始输出”（chosen-input raw-out
REPLICANT: Learning Policies for Evading and Hardening Malware Detectors
该论文针对基于机器学习的恶意软件检测器在实际对抗环境中的鲁棒性评估问题展开研究。现有对抗攻击研究通常假设攻击者能够访问训练数据、特征空间或置信度分数等特权信息，这与真实世界的攻击者能力不符。为此，作者提出了一个名为 Replicant 的深
Not to Break, but to Attest: Adversarial Probes for Privacy-Preserving LLM Verification
该论文针对大语言模型（LLM）在部署后被篡改而常规输出基本不变的问题，提出一种基于 zk-SNARK 的隐私保护审计框架。该框架通过构造“对抗性探针”（adversarial probes）来放大已批准模型与修改后部署之间的 logit 漂
Memorization Is Not Extraction: Tight Differential-Privacy Bounds and Audit Blind Spots
本文研究大语言模型（LLM）中记忆与提取现象的度量问题。长期以来，模型记忆的定义繁多且关系不明，差分隐私（DP）常被当作同时控制所有记忆形式的统一代理。作者针对实际应用中最重要的两类定义——反事实记忆（counterfactual memo
SecureDrive-FL: Joint Differential Privacy and Gradient-Aware Selective Homomorphic Encryption for Federated Driver Monitoring
该论文针对联邦学习（FL）中梯度更新面临的两类安全威胁：传输过程中的中间人（MitM）窃听，以及恶意客户端发起的模型投毒攻击。传统方案要么对所有参数统一加密（如静态分层或全参数CKKS），计算开销大且不区分敏感度；要么仅依赖差分隐私（DP）
Quantization-Triggered Backdoors in Language Models: Cross-Quantizer Transferability and the Validation--Deployment Gap
本文针对大语言模型（LLM）后训练量化这一常见优化流程，提出并验证了一种新型后门攻击范式。量化通常被视为语义中立，但在实际工作流中，模型通常先在源精度（如FP16）上完成评估，之后再应用量化并直接部署，这种'验证-部署差距'（validat
Daydreaming: Stealing Hidden Agent Skills through Black-Box Task Interaction
本文提出了一种名为 Daydreaming 的黑盒攻击方法，用于窃取托管在多文件技能（skill）中的智能体能力。在当代 AI 智能体系统中，技能包通常包含指令、参考数据和可执行辅助脚本，使通用模型能够执行特定任务。服务提供商可以保守这些文
The Latent Diagnostic Taxonomy: A Framework for Constructing Classifiers and Diagnosing Their Decisions, Applied to Prompt Injection Detection
本文提出了一种名为“潜在诊断分类法”（Latent Diagnostic Taxonomy）的框架，用于构建作为安全防护层的分类器，并开发配套的诊断机制，以识别分类器哪些高置信度决策是可信任的。该框架包含三个核心步骤：首先，构建维度优化的分
MeMark: Membrane-Space Watermarking for Spiking Neural Networks
本文提出 MeMark，一种面向脉冲神经网络（SNN）模型水印的新方法，专门针对模型检查点复用（checkpoint-reuse）场景。现有 SNN 水印通常将标识嵌入输出层，攻击者只需替换输出头即可移除验证证据。MeMark 将多比特标识
Pointing the Way, Hiding the Destination: Practical Private Dense Retrieval at Scale
本文提出了一种实用的私有密集检索方案，用于托管式检索增强生成（RAG）和语义搜索场景。研究背景是：用户希望查询提供方持有的有价值的语料库，但存在两个相互矛盾的需求：一方面需要隐藏用户的查询和最终选择的结果，另一方面又只能向用户展示其被授权访
NeuronFuzz: Safety Neuron Guided Fuzzing for LLM Safety Evaluation
论文提出 NeuronFuzz，一个面向大语言模型（LLM）安全评估的白盒模糊测试框架。现有自动化越狱测试方法主要依赖响应级反馈：每个候选提示都需要目标模型生成完整回复才能评估攻击效果，这不仅计算开销大，而且在强对齐模型上反馈极其稀疏——大
Are LLM-Enhanced GNNs Privacy-Safe?
本文系统评估了由大语言模型增强的图神经网络（LLM-enhanced GNNs）在隐私安全方面的风险。近年来，LLM 通过丰富节点表示的语义信息显著提升了 GNN 的性能，但这类模型面对隐私攻击时的脆弱性尚未被充分研究。为此，作者提出了一个
Adversarial Training of Linear Models under Stealthy Attacks
这篇论文关注预测模型在虚假数据注入攻击下的鲁棒性问题。尽管已有检测方案和对抗训练方法被提出，但它们往往无法为隐蔽攻击提供理论保证——即攻击者设计的最优攻击策略可能轻易绕过检测器。为此，作者提出了一种基于检测器的切换模型（detector-b
Refusal geometry reflects refusal training: diverse refusal prefixes can raise stable rank and weaken refusal vector ablation attacks
本文研究大型语言模型拒绝行为的安全机制。背景是：为抵御越狱攻击，模型经过拒绝训练后会对不安全请求产生拒绝响应。已有研究发现拒绝行为往往集中于激活空间中一个低维子空间，通过向量消融即可解除拒绝，但低维结构形成的成因尚不明朗。作者以OLMo-2
Multi-View Trust Evaluation for Collaborator Selection via Evidential Deep Learning
在分布式系统中，选择可信赖的协作者对于高效完成任务至关重要，通常需要从过去的协作经验中推断其可信度。然而，协作者在过往协作中可能服务于不同设备、面临不同场景，导致其信任相关数据具有多源、异构且质量不均的特点。传统信任评估方法难以处理这种复杂
FuzzingBrain-Bench V1: Evaluating Open-Ended Bug Discovery by LLMs
大型语言模型（LLM）在软件漏洞发现中的应用日益受到关注，但现有评估基准通常要求模型生成针对预定义目标的 PoC 输入，这种方式可能忽略模型发现的、与预期目标不一致但确属有效的崩溃，从而低估模型真实能力。针对这一问题，本文提出了 Fuzzi
Rethinking the Transferable Adversarial Attacks and Robust Defense in Federated Learning
本文重新审视联邦学习（Federated Learning, FL）中的可迁移对抗攻击与鲁棒防御问题。联邦学习通过多方协作训练模型，无需共享原始数据，从而保护用户隐私，但其大规模参与特性也引入了多种安全威胁，如投毒攻击（Poisoning
Retrieved But Not Reliable: A Survey on Attacks, and Defenses in Retrieval-Augmented Generation
该论文是一篇关于检索增强生成（RAG）安全与鲁棒性的系统性综述。RAG 通过引入外部知识库来增强大语言模型，能够提升事实性和减少幻觉，但与此同时，检索-生成流水线也引入了新的安全风险，例如语料库投毒（corpus poisoning）、后门
Anatomy of a Scam Call: What 10,000 real scam and spam calls reveal about how phone scammers operate
该论文基于一个由AI语音代理蜜罐系统收集的独特数据集，对电话诈骗和垃圾电话的运作模式进行了大规模实证分析。数据集包含54天内来自5,780个不同号码的10,211通入站电话，共计913小时音频和330,956轮对话转录。研究首先区分了真正骗