Towards Understanding Unsafe Video Generation.
该论文系统性地研究了视频生成模型（VGM）产生不安全内容（如暴力、恐怖、色情、政治敏感等）的风险。作者首先从4chan和Lexica等来源收集可能诱导不安全内容生成的提示词，并使用三种开源最先进视频扩散模型（如VideoFusion、Mod
#defense
共收录 72 条相关情报。
← 返回所有主题Label Inference Attacks Against Vertical Federated Learning.
本文针对纵向联邦学习（VFL）中的标签推断攻击提出了一种名为KD-k（知识蒸馏结合k-匿名）的防御框架。在VFL中，多个参与方持有垂直划分的数据，共同训练机器学习模型，其中标签仅由聚合服务器（标签所有者）持有，旨在保护标签隐私。然而，已有研
Breaking the Rounding Trap: Securing LLMs against Quantization-Conditioned Backdoors
模型量化是降低大语言模型存储和推理开销的关键技术，但最近的研究表明，量化引入的离散化和舍入误差可被攻击者利用，构造量化条件后门攻击。在这种攻击下，恶意行为在全精度阶段保持休眠，仅在量化部署后激活，从而绕过传统的安全审计和检测机制。针对这一威
RIPA: Sensory-Vector Prompt Injection Attacks on LLM-Controlled ROS 2 Robots
本论文提出了RIPA，首个针对基于ROS 2的LLM控制机器人系统的多通道感知向量提示注入攻击的系统性实证研究。研究在5个不同参数量（约4B至284B）的LLM上进行了每个攻击变体100次独立实验，涵盖DeepSeek-V4-Flash、L
Detect, Unlearn, Restore: Defending Text Summarization Models Against Data Poisoning
该论文针对在微调阶段对大型语言模型（LLM）进行数据投毒攻击的防御问题展开研究。在抽象文本摘要任务中，微调数据集通常较小，攻击者可通过操纵少量训练样本，使模型生成有偏见或有害的摘要，同时保持标准评估指标正常。论文提出了一种统一的防御框架，可
Rising From the Ashes: How Agentic AI is Unblocking Challenges in Cybersecurity
该论文探讨了代理人工智能（Agentic AI）如何解决网络安全中长期存在的挑战。当前安全防御面临成本高昂、人工密集型任务成为瓶颈等问题，许多防御措施因效率低下而难以实施。代理AI通过直接接收和推理自然语言或代码的能力，有望自动化这些任务，
What You See is Not What the Network Infers: Detecting Adversarial Examples Based on Semantic Contradiction.
该论文聚焦于深度神经网络（DNN）在安全关键领域（如自动驾驶）中面临的对抗性样本威胁。现有防御方法存在诸多局限：只能防御部分对抗性样本，或导致正常输入的高精度损失，且多数无法抵御自适应攻击（即攻击者了解防御机制后针对性构造的样本）。作者观察
Quantization as a Malicious Task: Removing Quantization-Conditioned Backdoors via Task Arithmetic
该论文针对模型量化中的后门攻击（Quantization-Conditioned Backdoors, QCBs）提出了一种新型防御方法。QCBs 是一种后门威胁：模型在全精度下表现正常，但经过量化后激活恶意行为。现有防御通常需要修改量化过
Real-Time Website Fingerprinting Defense via Traffic Cluster Anonymization.
网站指纹（WF）攻击严重威胁匿名网络（如Tor）用户的隐私。尽管已有多种防御方案，但面对基于深度学习的先进WF攻击，现有防御效率不足。本文提出Palette，一种新颖且实用的实时WF防御方法，通过流量簇匿名化保护实时Tor流量。核心思想是将
CodeSentinel: A Three-Layer Defense Against Indirect Prompt Injection in Code Contexts
该论文提出 CodeSentinel，一种针对代码大语言模型（Code LLM）中间接提示注入攻击的三层推理时防御系统。研究背景：代码大语言模型在编程辅助中常从外部仓库、文档、问题线程和编码智能体环境检索代码上下文，攻击者可利用此过程在注释
Safeguarding Graph Neural Networks against Topology Inference Attacks.
图神经网络（GNN）在基于图结构的数据学习中表现出强大能力，但其广泛应用引发了严重的隐私问题。尽管已有研究主要关注边级隐私（如边是否存在），但图拓扑结构（即图的整体形状）的机密性是一个关键但未被充分探索的威胁。本文首次系统研究了GNN中的拓
Defending against Adaptive Prompt Injection Attacks via Reasoning-enabled Task Alignment
本文针对LLM智能体面临的间接提示注入攻击（攻击者通过第三方数据嵌入恶意指令）提出了一种新的防御方法RETA。现有防御方法在静态基准测试中近乎零攻击成功率，但在自适应攻击评估中性能大幅下降。作者分析指出两大失效原因：一是现有防御仅识别特定攻
From Prompts to Responses: Dual-Sided Data Leakage and Defense in Split Large Language Models
该研究聚焦于分割式大语言模型（Split-LLM）中的数据泄露与防御问题。在隐私敏感场景中，用户面临两难：使用外部API可能泄露隐私数据，而本地部署则计算成本高昂。分割学习（Split Learning）作为一种折中方案，将模型切分，客户端
Stars Can Tell: A Robust Method to Defend against GPS Spoofing Attacks using Off-the-shelf Chipset.
该论文提出了一种基于恒星观测的GPS欺骗攻击防御方法，利用现成的GPS芯片和可见光传感器（例如摄像头）检测定位信号的一致性。传统GPS欺骗攻击通过伪造卫星信号使接收机产生错误定位，而本文方法通过比对GPS报告的定位与基于恒星位置的天文观测结
Alignment Defends LLMs from Property Inference Attacks
本文研究了大型语言模型（LLM）在领域特定数据集上微调时面临的数据集属性泄露风险。近期研究表明，通过属性推断攻击（property inference attacks），攻击者能够有效提取模型训练数据集中的敏感属性（如数据集的整体分布特征）
Quantifying and Defending against the Privacy Risk in Logit-based Federated Learning
该论文首次系统性地研究了基于logit的联邦学习（FL）中隐藏的隐私风险。传统的参数化FL通过交换模型权重或梯度来保护数据隐私，而新兴的logit-based FL方法则在公共数据上共享模型输出（logits），从而促进模型异构性、降低通信
On Improving Robustness of Deepfake Image Detectors
该论文聚焦于深度伪造图像检测器在对抗攻击下的鲁棒性问题。尽管近年来提升检测器对未见生成模型泛化能力的研究取得进展，但检测器仍易受对抗样本攻击。作者复现了Abdullah等人（IEEE SP 2024）对八种检测器的评估，并额外测试了七种最先
AgentRedBench: Dynamic Redteaming and Integration-Aware Defense for LLM Agents over SaaS Integrations
该论文提出了AgentRedBench，一个动态的LLM驱动的红队基准测试，专门针对通过SaaS集成（如Gmail、Salesforce、Jira等）使用工具调用的LLM智能体面临的间接提示注入威胁。现有基准测试覆盖的集成种类有限，且攻击载
EarArray: Defending against DolphinAttack via Acoustic Attenuation.
本文关注针对语音助手的 DolphinAttack（不可听语音命令攻击），该攻击将可听语音调制到超声波上，从而无声地注入恶意命令，例如控制智能门锁或音箱。由于攻击利用了超声波的人耳不可听特性，且不需要物理接触，传统方法难以防御。现有防御方案
D-Judge: Disrupting Multi-Turn Jailbreaks using Semantics-Preserving Output Rewriting
多轮越狱攻击（Multi-turn Jailbreak Attacks）利用辅助评判模型（Judge Model）的反馈信号来迭代优化对抗性提示，逐步突破大语言模型（LLM）的安全防护。现有防御措施主要针对单轮响应或最终输出进行检测与阻断，