Implementing a White-Box Undetectable Backdoor for Random Fourier Features
本文实现并评估了一类白盒条件下不可检测的后门。背景是 Goldwasser 等人此前证明：在使用随机傅里叶特征(RFF)训练的机器学习模型中，可以植入在白盒审计下也无法被检测的后门，其安全性建立在与连续学习误差问题(CLWE)相关的困难性假
#cs.LG
共收录 1064 条相关情报。
← 返回所有主题Decoy Direction Optimization: A Post-Hoc Defense Against LLM Abliteration
开放权重模型的安全护栏很容易被「拒绝特征消融」(Refusal Feature Ablation, RFA) 绕过：该技术通过对比估计器在残差流中定位一个线性的「拒绝方向」，再将它从权重/激活中投影剔除，从而在几乎不损失模型通用能力的前提下
Permutation-Based Stegomalware in Large Language Models: Threats and Countermeasures
该论文研究的是大语言模型（LLM）供应链中的隐写恶意软件（stegomalware）威胁：由于 LLM 训练成本极高、生态高度依赖第三方开源权重，攻击者可以把恶意负载直接编码进模型权重文件中，从而在模型分发环节完成投递。此前的相关工作曾利用
LLM-Based Schema-Aware Split Learning for Privacy-Preserving Mental Distress Prediction Across Heterogeneous Surveys
随着社会与生活方式复杂度上升，全球心理健康困扰的患病率持续增长。教育机构、职场与诊所等组织积累了海量的心理健康问卷调查数据，若能进行跨机构的协作分析，就有望训练出更具泛化能力、可有效识别心理困扰的预测模型。然而这一目标面临两大障碍：一是隐私
SWB-DM: A Calibrated Sliced-Wasserstein-Barycenter Aggregator with Delayed-Momentum Caching for Byzantine-Robust Federated Learning under Partial Participation
该论文针对联邦学习鲁棒聚合的一个被忽视的前提缺陷展开研究：坐标中位数、Krum、Bulyan、截断均值等方法的有限样本保证，都默认每轮参与客户端是全体总体的公平采样。但在部分参与场景下每轮仅少量客户端上报，攻击者占比即便不高也足以主导该轮样
When the World Lies: Backdoor Attacks on Latent World Models for Downstream Control
论文揭示：把预训练的潜在世界模型（把观测编码为潜在状态、并预测其在动作下如何演化的学习型模拟器）当作下游控制任务的“现成动力学骨干”来复用，会引入一条供应链后门。攻击者只需控制发布的模型检查点，就能劫持下游控制器——而受害者完全在干净数据上
SpliTEE: Improving LLM Inference on Trusted Hardware with Differentially Private GPU Outsourcing
该论文研究如何在可信执行环境(TEE)中高效、安全地运行大语言模型(LLM)推理。背景问题是: 用户提交给 LLM 的提示(prompt)可能包含敏感或隐私信息, 而远程部署的模型可能通过重训练时的无意记忆等途径滥用这些信息。一个自然的防护
Pick Your Poison: Learning to Select Poison Sets for Stronger LLM Backdoor Attacks
该论文聚焦大语言模型微调阶段的后门数据投毒评估方法学。传统后门研究通常固定投毒样本数量，再从候选数据池中随机抽取投毒集合，并据此估计模型的最坏情况脆弱性。作者指出这种做法会严重低估真实风险：在三个基于 LLaMA-3-8B 的后门实验设置中
TriCalRAG: A Three-Strategy, Retrieval-Augmented Benchmark for On-Premise LLM-Based Root Cause Analysis in AIOps
该论文面向 AIOps 场景中的根因分析（RCA）任务，指出现有做法多依赖云端托管的大语言模型，虽然能力较强，但会带来数据隐私外泄风险、网络往返延迟以及随生产日志规模线性增长的按查询计费成本，难以在日志量极大的生产环境中长期支撑。为此作者提
Fusing Spectral Signatures and Activation Clustering for Backdoor Detection in Healthcare Imaging Models: Method, Implementation, and Evaluation
该论文研究医疗影像诊断模型中的后门（训练期投毒）检测问题。作者指出，医疗行业指南已把模型投毒与对抗攻击列为需要专门防御的行业级威胁，联邦政策也要求把 AI 漏洞检测工具扩展到农村医院等关键基础设施运营方，因此面向医疗影像流水线的后门检测具有
Predicting Privacy Leakage from Weight Spectral Density
本论文关注机器学习模型隐私审计的可扩展性问题。成员推理攻击（MIA）是评估模型是否泄露训练数据隐私的主流手段，但当前最先进的攻击需要训练大量计算昂贵的影子模型（shadow models），成本和算力开销极高，导致对大规模模型库或频繁迭代的
Differentially Private EEG Feature Anonymization: A Privacy-Utility Case Study in Clinical Neurophysiology
该论文聚焦临床脑电图（EEG）数据的隐私保护与可用性权衡问题。研究背景是：临床 EEG 记录及其衍生特征对医疗健康研究和基于人工智能的临床决策支持系统开发具有重要价值，但其中可能包含患者特异性的敏感信息，在数据复用、分析以及跨临床与科研环境
Empirical Evaluation of Data Poisoning Attacks in Supervised Learning
该论文针对监督学习中的训练阶段数据投毒问题开展了一次系统的实证评测。研究背景是：数据投毒通过污染训练集来破坏模型整体性能，或向模型中植入由攻击者控制的后门行为，目前多数公开研究聚焦于单一攻击或单一模型，缺乏在统一实验条件下对不同投毒方式、不
Empirical Evaluation of Membership Inference Attacks on NLP Text Classifiers: A Baseline Study on SST-2
该论文针对自然语言处理中的训练数据隐私风险，系统评估了成员推断攻击（Membership Inference Attack, MIA）在文本分类任务上的实际威胁。MIA 的目标是判断某条具体记录是否被用于训练某个模型；在 NLP 场景下，训
DriftNet: A Dual-Head Trajectory Transformer for Detecting and Localizing Prompt Injection in LLM Agents
该论文关注 LLM 智能体（Agent）面临的间接提示注入（indirect prompt injection）检测难题。作者指出，当注入攻击成功时，攻击痕迹会体现在 Agent 自身的行为轨迹上：一段正常的工具调用前缀、一个被投毒的观测结
Detectable Only Where It Is Confounded: What Verified Duplication Counts Say About Membership Evidence in Language Models
这篇论文审视大语言模型成员推断（membership inference）证据的可靠性。传统做法是：若模型对某句子预测代价异常低（困惑度低），就推断它出现在训练数据中；但几乎所有已发表的此类检验都必须猜测哪些句子是训练集成员、哪些不是，这种
Temporal and Multimodal Deep Learning for Cyberattack Detection in LEO Satellite Systems
随着低地球轨道（LEO）卫星通信系统在通信、导航与遥感等领域的重要性不断提升，针对复杂动态空间环境的智能网络攻击检测需求日益迫切。与传统的网络入侵检测不同，卫星系统产生的数据具有显著的多源异构特征：既包括射频（RF）链路的信号信息，也涵盖星
CARTS: Contextual Autoregressive Rank Transcoding Steganography for Full-Capacity Keyed Text Encoding
本文研究的是如何利用自回归语言模型构建隐蔽通信信道的问题。其核心观察是：自回归模型在生成每个 token 时，会对候选 token 形成一个按概率排序的"秩"（rank）分布；如果在生成过程中保持每个位置上被选中 token 的相对秩不变，
Maverick: Private and Verifiable LLM Inference Made Practical via Matrix-Vector Multiplication Delegation
该论文面向一个日益突出的现实矛盾：开源大模型（LLM）在能力上已可与闭源模型竞争，并且允许用户在不把输入暴露给服务商的前提下本地推理，但大规模模型对本地算力要求极高，因此大量用户仍不得不租用第三方算力，从而重新引入隐私泄露与计算结果被篡改（
Active Adaptation, Not Static Defense: Temporal Dynamics of Preventative Steering in Adversarial Fine-Tuning
该论文研究的是大语言模型在恶意微调（adversarial fine-tuning）下的安全对齐脆弱性问题，以及训练期防御手段的时效机制。已有工作提出「预防性引导」（Preventative Steering）：在微调阶段向模型注入代表不良