Hidden Risks of Jev: An Empirical Study of Security, Privacy, and Dual Use
该论文针对新兴的 "Jev" 接口开展首次系统性安全、隐私与双用途研究。Jev 能将自然语言问题转化为带类型的答案与概率，具备低延迟、低成本特点，可作为应用决策层，用于请求路由、工具选择等。作者使用官方 Jev API 与本地可训练、可更新
#backdoor
共收录 67 条相关情报。
← 返回所有主题The Fragility of Trigger-Tag Mechanisms for Misuse Detection in Open-Weight LLMs
该论文关注开放权重语言模型的安全防护问题。由于开放权重模型可被任意下载、修改并部署在开发者控制范围之外，中心化强制保护措施的效果有限。近期研究提出 trigger-tag 机制：当模型在目标条件下被使用（如生成钓鱼内容）时，产生可检测信号。
Evaluating and Improving the Robustness of Large Language Models to Input Sequence Variations
该学位论文系统研究如何评估并提升大语言模型（LLM）对输入序列变异的鲁棒性，直面生产系统中三类现实威胁：提示注入、木马/后门植入，以及对自动质量评测指标（LLM-as-a-Judge）的操纵。作者首先提出生成式鲁棒性度量 R_stab(f)
Backdoor Purification for LoRA-Tuned LLMs via Null-Space Projection
该论文研究的是参数高效微调（PEFT）场景下的后门防御问题。随着大语言模型（LLM）与 LoRA 等轻量微调方法的广泛采用，攻击者可以通过污染微调数据或发布被植入后门的适配器（adapter），使模型在特定触发条件下产生恶意输出，而基座模型
Backdoor Mitigation in Decentralized LLM Fine-Tuning
去中心化大语言模型（LLM）微调允许多个机构在不汇聚原始数据、也没有中心协调者的情况下，协作训练一个共享的 LLM。其典型流程是：每一轮中，每个节点在通信图上与邻居交换可训练的适配器（adapter），随后在本地对收到的适配器进行聚合更新。
DecoyTrace: Toxic Decoys for Active Defense in Decentralized Federated Learning
该论文针对去中心化联邦学习（DFL, Decentralized Federated Learning）场景下防御能力不足的问题，提出了名为 DecoyTrace 的主动式网络欺骗防御方案。DFL 取消了中心聚合服务器，虽然避免了单点故障，
Information Blackhole: Exploring Backdoor Mechanism in 3D Point Cloud Reconstruction
该论文聚焦三维点云自编码器的后门安全问题。点云自编码器是 3D 世界表示的基础组件，被广泛用于自动驾驶感知、机器人、数字孪生等安全攸关的下游任务。此前学术界对点云分类模型的后门攻击研究已较为充分，但针对点云自编码器这类生成式模型的后门机理仍
Poster: FedWM-Guard: Thwarting Imagination Poisoning in Federated World Model-based Autonomous Driving
该论文聚焦联邦学习（FL）与世界模型（WM）结合用于自动驾驶（AD）这一新兴交叉场景。联邦世界模型自动驾驶（federated WM-AD）允许各车辆在不上传原始私有驾驶数据的前提下协同训练世界模型，从而获得更强的环境预测与规划能力；但论文
RAMP: Reversing Adversarial Perturbations to Strengthen Clean-Label Backdoor Attacks against Malware Detectors
本文研究的是深度学习恶意软件检测器在持续更新流程中面临的训练时后门威胁。当前主流做法是：检测器部署后，会不断把新采集到的样本加入训练集并进行微调，以保证对新型恶意软件的识别能力。这一工程实践虽然提升了检测效果，却也把数据采集与更新流水线变成
ServeGuard: Verifiable, Bounded-Residual Confinement of Operator-Invisible Channels Without Revealing the Certified Read Factor
开源权重语言模型的第三方适配器（adapter）通常以不透明的权重矩阵形式分发，接收方在不信任发布方、又不检查权重（而权重正是发布方的核心资产）的前提下，无法判断适配器是否被植入后门。论文聚焦其中一类特别棘手的情形：把载荷放进安全监控器在结
When the World Lies: Backdoor Attacks on Latent World Models for Downstream Control
论文揭示：把预训练的潜在世界模型（把观测编码为潜在状态、并预测其在动作下如何演化的学习型模拟器）当作下游控制任务的“现成动力学骨干”来复用，会引入一条供应链后门。攻击者只需控制发布的模型检查点，就能劫持下游控制器——而受害者完全在干净数据上
Pick Your Poison: Learning to Select Poison Sets for Stronger LLM Backdoor Attacks
该论文聚焦大语言模型微调阶段的后门数据投毒评估方法学。传统后门研究通常固定投毒样本数量，再从候选数据池中随机抽取投毒集合，并据此估计模型的最坏情况脆弱性。作者指出这种做法会严重低估真实风险：在三个基于 LLaMA-3-8B 的后门实验设置中
Empirical Evaluation of Data Poisoning Attacks in Supervised Learning
该论文针对监督学习中的训练阶段数据投毒问题开展了一次系统的实证评测。研究背景是：数据投毒通过污染训练集来破坏模型整体性能，或向模型中植入由攻击者控制的后门行为，目前多数公开研究聚焦于单一攻击或单一模型，缺乏在统一实验条件下对不同投毒方式、不
NERVE Attacks: Breaking AI-Powered Brain-Computer Interfaces
该论文聚焦于 AI 与脑机接口 (BCI) 融合后新出现的、此前缺乏系统研究的攻击面。随着 AI 被广泛嵌入以人为中心的系统，神经信号与物理执行设备之间形成了一条新的信任链：一端是采集到的脑电等神经生理信号，另一端是假肢、外骨骼、轮椅、神经
TrojanWorld: Backdooring World-Model Agents via Imagination Steering
本文提出了一种针对基于世界模型的强化学习智能体的后门攻击框架 TrojanWorld。世界模型作为模型-based 强化学习智能体的预测核心，使智能体能够在执行动作前模拟未来动态并基于想象轨迹进行推理。由于其训练成本高昂，预训练世界模型常被
Does Reasoning Mitigate Backdoor Attacks? A Neuro-Symbolic Perspective
该论文从神经符号（Neuro-Symbolic, NeSy）视角出发，首次系统评估了后门攻击对NeSy模型的影响。NeSy AI旨在将亚符号神经感知与基于符号的推理相结合，以提高AI系统的透明性、可解释性和效率，通常被认为是“设计上安全”的
Ouroboros: Self-Referential Backdoor Attacks on Speech Enhancement via Clean Audio Triggers
本文提出了一种名为 Ouroboros 的新型后门攻击框架，专门针对语音增强（Speech Enhancement）模型。语音增强模型通常作为实时语音服务的前端模块，用于降噪和语音质量提升，但以往的后门攻击研究主要集中于分类任务，且依赖主动
LayerDBA: Circumventing Similarity-Based Defenses in Federated Learning.
联邦学习（FL）允许多方在不集中收集数据的情况下协作训练深度神经网络（DNN），每个客户端本地训练模型并仅向中央服务器共享模型参数。虽然这种模式增强了客户端隐私，但也为恶意客户端操纵模型和注入后门提供了机会。现有的大多数后门攻击与防御研究假
GhostSplat: Input-Triggered Backdoors for Multi-View-Consistent 3D Content Manipulation in Feed-Forward Gaussian Splatting
GhostSplat 针对前馈式 3D 高斯泼溅（Feed-forward 3D Gaussian Splatting, 3DGS）提出了一种输入触发的后门攻击方法。前馈式 3DGS 模型能够通过一次前向传播从稀疏图像中重建三维场景，其共享
Low-ASR Backdoors: Exploiting Attack Success Rate Reduction and Attacker-Defender Asymmetry
该论文研究深度学习中后门攻击与防御的一个根本性假设缺陷。传统上，攻击者和防御者都默认成功的后门必须具有高攻击成功率（ASR），现有防御机制也大多基于这一前提进行设计和评估。作者指出，ASR并非后门的内在属性，而是可由攻击者人为控制的变量——