Evaluating and Improving the Robustness of Large Language Models to Input Sequence Variations
该学位论文系统研究如何评估并提升大语言模型（LLM）对输入序列变异的鲁棒性，直面生产系统中三类现实威胁：提示注入、木马/后门植入，以及对自动质量评测指标（LLM-as-a-Judge）的操纵。作者首先提出生成式鲁棒性度量 R_stab(f)
#robustness
共收录 52 条相关情报。
← 返回所有主题Faithful Dual-constrained Erasure for Robust LLM Safety Alignment
本论文关注大语言模型(LLM)安全对齐中的机器遗忘(machine unlearning)机制。移除模型中的危险知识、实现安全对齐通常依赖遗忘技术,但近期研究揭示了一个持续存在的安全风险:被「遗忘」的模型在面对再训练攻击(retrainin
Towards Understanding LLM-Based Log Anomaly Detection: An Empirical Study of Performance, Efficiency, and Robustness
该论文针对基于大语言模型（LLM）的日志异常检测展开系统性实证研究。背景是：尽管 LLM 在日志异常检测任务上已展现出可观效果，但从业者并不清楚「适配策略、模型架构、参数规模、量化与部署配置」这些工程变量究竟如何影响最终检测效果，现有工作往
SoK: Trading Agents or Market Crashers? Dissecting Robustness and Security Failures in Academic Financial LLM Trading Schemes
该论文聚焦于自主 LLM Agent 进入高风险领域后的安全问题，指出当前 agentic AI 安全研究大多与具体领域无关，忽视了高后果场景所特有的攻击面。作者以金融交易 Agent 作为代表性案例：在这类场景中，单个被攻陷的 Agent
Robustness-Aware Evaluation and Enhancement of Mutation-Based Fuzzing for Bug Discovery
变异模糊测试（mutation-based fuzzing）是软件安全中广泛使用的漏洞发现技术，但由于其随机性，对它的结果进行严格评估和复现存在困难。现有工作通常通过经验性测量来刻画这种随机性，但缺乏理论上的收敛性与样本复杂度保证，导致评估
Robustness Evaluation and Detection of Transferable Adversarial Attacks in ML-Based NIDS
该论文针对基于机器学习的网络入侵检测系统（ML-based NIDS）在对抗性逃逸攻击下的鲁棒性问题展开研究。尽管已有大量关于对抗攻击与防御的文献，但多数研究在统一条件下对多种攻击、多种检测模型以及多种防御策略进行横向比较仍显不足。为此，作
Privacy, Robustness, and Fairness Trade-offs in Federated Intrusion Detection: Geometric Indistinguishability at the Aggregation Interface
本文针对联邦学习在网络入侵检测（NIDS）中的应用，系统研究了隐私保护、鲁棒性和类别不平衡检测覆盖三者之间的权衡关系。联邦学习允许在不集中敏感流量数据的情况下进行协作训练，但在实际部署中必须同时满足三个相互竞争的要求：严格的差分隐私保证、对
CRAW: Codec Robust Audio Watermarking
该论文提出了一种针对生成式语音模型的鲁棒音频水印框架 CRAW（Codec Robust Audio Watermarking）。研究背景是：近年来生成式语音模型（如语音克隆、语音合成）的进步使得真实与合成语音难以区分，增加了欺诈和虚假信息
Towards More Robust Keyword Spotting for Voice Assistants.
本文针对语音助手中的关键词检测（Keyword Spotting, KWS）系统在真实场景下的鲁棒性挑战展开研究。关键词检测是语音助手的首要环节，需要在连续音频流中准确识别唤醒词。然而，现实环境中的噪声、干扰以及恶意构造的对抗样本都可能导致
What Limits Robustness in Deep Image Watermarking: An Analysis of Mechanisms and Their Scaling Across Capacities
该论文针对深度图像水印中鲁棒性这一核心开放问题展开分析，重点研究当payload容量增长时，鲁棒性受限的根本原因。作者提出两个问题：容量本身是否是限制因素，还是仅仅暴露了其他潜在限制？论文给出两部分回答。第一部分系统梳理了水印必须承受的各种
ProFake: Detecting Deepfakes in the Wild against Quality Degradation with Progressive Quality-adaptive Learning.
本文针对真实世界场景下深度伪造（deepfake）检测面临的质量退化问题展开研究。尽管现有深度伪造检测方法在常用数据集上表现良好，但在实际应用中（如社交媒体平台上的伪造视频和实时直播），由于平台会进行不可预测的压缩等操作，导致视频质量下降，
CARVY-FL: Client Anticlustering for Robust Voting in Provably Secure Federated Learning
联邦学习（FL）允许多方在不直接共享原始数据的情况下协作训练模型，但恶意客户端的存在会严重威胁模型安全。基于投票的FL方法通过将客户端划分为多个组，每组训练一个局部模型，最终通过多数投票聚合预测结果来提升鲁棒性。然而，在类别不重叠的非独立同
Improving the Robustness of the XRP Ledger Network via Edge Augmentation Strategies
本文针对 XRP Ledger 网络的共识机制鲁棒性问题展开研究。XRP Ledger 允许参与者选择一组受信任的节点（即唯一节点列表 UNL）进行通信，并以高阈值（如 80%）达成共识，决定下一账本状态应包含的交易。然而，该共识协议要求各
Retrieved But Not Reliable: A Survey on Attacks, and Defenses in Retrieval-Augmented Generation
该论文是一篇关于检索增强生成（RAG）安全与鲁棒性的系统性综述。RAG 通过引入外部知识库来增强大语言模型，能够提升事实性和减少幻觉，但与此同时，检索-生成流水线也引入了新的安全风险，例如语料库投毒（corpus poisoning）、后门
PURA: Provably Unbiased and Robust Multi-Bit Watermarking for AI-Generated Text Attribution
该论文提出了一种名为 PURA 的新型多比特水印方法，用于对 AI 生成文本进行细粒度归因。现有方法在保持原始生成分布、支持大容量负载以及编辑后恢复能力之间难以兼顾。PURA 的核心创新在于不在 token 概率层面直接扰动，而是在潜在采样
BackDFL: A Unified Benchmark For Backdoor Attacks and Defenses In Decentralized Federated Learning
去中心化联邦学习（DFL）通过点对点模型交换替代中心化参数服务器，旨在实现无需信任的协作学习。然而，这种架构转变从根本上重塑了威胁模型：由于缺乏全局协调的聚合机制，DFL特别容易受到后门攻击的影响——恶意参与者可以在保持干净任务性能的同时植
Robust Adversarial Attacks Against DNN-Based Wireless Communication Systems.
该论文针对基于深度神经网络（DNN）的无线通信系统面临的安全威胁展开系统性研究。近年来，DNN被广泛应用于无线通信的关键环节，如OFDM系统的信道估计与解码、端到端自编码器系统设计、无线电信号分类以及信号认证等任务。然而，DNN本身存在对抗
Analysis of Federated Aggregation under Model Poisoning and Backdoor Attacks: A Reconstructed Cross-Dataset and Cross-Architecture Benchmark
本文是一篇关于联邦学习中聚合方法在模型投毒与后门攻击下鲁棒性的系统性比较研究。作者重建了一个包含500个单元格的评估矩阵，覆盖五种聚合方法（如Trimmed Mean、Krum等）、五个数据集、五种模型架构，以及四种记录条件：干净环境、符号
WhiteNet: Robust Identification of Overlapping IEEE 802.11 Signals Across Unseen Channels
本文提出WhiteNet，一个用于鲁棒识别重叠IEEE 802.11信号的深度学习框架，重点解决信道变化导致的性能下降问题。现有基于I/Q样本的深度学习方法在训练和部署信道条件差异大时精度急剧下降。WhiteNet的核心是频谱白化预处理，基
SpreadMark: Robust Image Watermarking via Spread-Spectrum Embedding
本文提出了一种名为 SpreadMark 的鲁棒图像水印方法，针对深度伪造检测和来源追踪场景中水印需要抵抗有意移除的问题。作者首先指出现有基于编码器-解码器的水印方案存在一个共同弱点：每个消息比特只占据图像的一小部分区域，因此攻击者只需扰动