OASIS: Optimizing Attacker Sequences for Hard-Label Black-Box Text Attacks
本文介绍了一种名为 OASIS 的方法，旨在优化硬标签黑盒文本攻击中的攻击者序列。传统上，不同攻击方法遵循不同的搜索轨迹，且各自在不同样本子集上取得成功，但已有硬标签黑盒攻击主要关注改进单个攻击者，或通过手动方式简单组合多个攻击者。OASI
#cs.CL
共收录 424 条相关情报。
← 返回所有主题Benchmark Contamination: A Taxonomy Organized by Defeated Mitigation
该论文提出了一种以'被击败的缓解措施'为组织维度的基准污染（benchmark contamination）分类法，旨在解决当前排行榜分数中模型能力与数据泄漏在观测上难以区分的问题。作者指出现有污染分类法主要用于自动化检测，但未能回答发布者
A Comprehensive Survey on Linguistic Steganography: Methods, Countermeasures, Evaluation, and Challenges
本文是一篇关于语言学隐写术（linguistic steganography）的综合性综述，系统梳理了该领域在大型语言模型（LLM）时代的最新进展。隐写术旨在将秘密信息隐藏在看似正常的自然语言文本中，以规避检测。随着LLM的兴起，文本生成方
BEACON: Behavior-Anchored Cross-Source Knowledge Graph Construction for Cyber Threat Intelligence
本文提出 BEACON，一个基于 LLM 的跨来源网络威胁情报（CTI）知识图谱自动构建框架。研究背景是：大量 CTI 以非结构化报告形式存在，数量庞大且异构性强，人工分析难以应对；现有自动构建知识图谱的方法大多只处理单篇报告的部分信息，未
CamoDocs: A Poisoning Attack Against Retrieval-Augmented Language Models Using Camouflaged Documents
检索增强生成（RAG）通过引入外部文档来增强大语言模型（LLM），但公共或用户可编辑的内容源为数据投毒攻击提供了可能。攻击者可以注入恶意文档，引导模型输出攻击者期望的答案。现有的投毒攻击通常依赖在恶意文档中包含目标查询（query incl
Layered LLM Defenses as an Ensemble: Access Tiers, Inference Cost, and the Measured Failure Correlation Between Defense Layers
本文研究了大语言模型（LLM）防御体系的分层堆叠效果。实践中，防御者常通过叠加多层防御来增强安全性，但堆叠是否真正有效取决于一个关键条件：各防御层必须在不同的失败样本上出错，即失败独立性。然而，LLM安全文献虽推荐这一假设，却从未实际测量。
DisCTI: Who Needs to Know Timely? Automated Sector-Aware Cyber Threat Intelligence Dissemination
该论文提出一个名为 DisCTI 的自动化网络威胁情报（CTI）分发系统，旨在解决当前 CTI 分发中缺乏行业感知（sector-aware）和及时性的问题。研究背景是：尽管 MISP 等平台提供了行业标签功能（如能源、金融、政府），但实际
Memorization Is Not Extraction: Tight Differential-Privacy Bounds and Audit Blind Spots
本文研究大语言模型（LLM）中记忆与提取现象的度量问题。长期以来，模型记忆的定义繁多且关系不明，差分隐私（DP）常被当作同时控制所有记忆形式的统一代理。作者针对实际应用中最重要的两类定义——反事实记忆（counterfactual memo
Semantic Watermarking with Order-Robust Detection over Sub-sentence Units
本文研究大语言模型（LLM）生成文本的语义水印技术及其鲁棒性。现有语义水印将标记绑定到句子语义而非具体词元选择，理论上能抵抗改写等保留内容的编辑。但攻击者提供给检测器的文本可能经过改写、重排序或重新分段，这些操作都会导致嵌入位移——检测时使
Quantization-Triggered Backdoors in Language Models: Cross-Quantizer Transferability and the Validation--Deployment Gap
本文针对大语言模型（LLM）后训练量化这一常见优化流程，提出并验证了一种新型后门攻击范式。量化通常被视为语义中立，但在实际工作流中，模型通常先在源精度（如FP16）上完成评估，之后再应用量化并直接部署，这种'验证-部署差距'（validat
The Latent Diagnostic Taxonomy: A Framework for Constructing Classifiers and Diagnosing Their Decisions, Applied to Prompt Injection Detection
本文提出了一种名为“潜在诊断分类法”（Latent Diagnostic Taxonomy）的框架，用于构建作为安全防护层的分类器，并开发配套的诊断机制，以识别分类器哪些高置信度决策是可信任的。该框架包含三个核心步骤：首先，构建维度优化的分
A Self-Evolving Multi-Agent Framework Defense against LLM Jailbreak Attacks
本文针对大型语言模型（LLM）面临的越狱攻击防御问题提出了一种自进化的多智能体框架。当前LLM虽经过安全对齐，但仍易被角色扮演、混淆、代码转换、多步间接等越狱技术诱导产生有害输出。现有防御多为静态部署，无法根据新出现的攻击积累经验或自适应调
Retrieved But Not Reliable: A Survey on Attacks, and Defenses in Retrieval-Augmented Generation
该论文是一篇关于检索增强生成（RAG）安全与鲁棒性的系统性综述。RAG 通过引入外部知识库来增强大语言模型，能够提升事实性和减少幻觉，但与此同时，检索-生成流水线也引入了新的安全风险，例如语料库投毒（corpus poisoning）、后门
Not All Tokens Are Equal: Region-Aware Consistency Repair of Backdoors in MLLMs
多模态大语言模型（MLLM）在用户端应用中日益普及，但其构建流程可能引入后门风险：触发器可能位于图像、文本或两者中。现有面向传统分类器的模型级后门移除方法对 MLLM 效果有限，而针对 MLLM 的防御大多在推理时进行，通过过滤可疑输入来缓
Anatomy of a Scam Call: What 10,000 real scam and spam calls reveal about how phone scammers operate
该论文基于一个由AI语音代理蜜罐系统收集的独特数据集，对电话诈骗和垃圾电话的运作模式进行了大规模实证分析。数据集包含54天内来自5,780个不同号码的10,211通入站电话，共计913小时音频和330,956轮对话转录。研究首先区分了真正骗
Semantic Overlays: Mitigating Prompt Injection with Annotations Beyond Tokens and Steering Vectors
本文针对大语言模型（LLM）面临的提示注入（Prompt Injection）攻击提出了一种新的防御思路。研究指出，当前模型仅能感知输入的令牌（tokens），虽然服务端清楚每个文本片段属于用户输入、工具输出还是指令，但模型自身却需要自行追
CyberFactory: Scaling Cyber Security Capabilities with Instances from the Wild
本文提出 CyberFactory，一个面向网络安全的统一开源框架，旨在弥合开源与闭源大语言模型在网络安全能力上的差距。现有闭源模型（如 Mythos）展现出先进的网络安全能力，但开源方案存在三大局限：前沿开源权重模型未提供可复现的网络安全
Safety Hacking in Constrained Best-of-$N$ Inference-time Scaling
本文研究推理时扩展（Inference-time Scaling）中安全模型与奖励模型组合产生的安全漏洞。典型推理时流水线会采样多个候选输出，通过一个学习的安全代理过滤掉不安全的输出，然后从剩余“代理可行”集合中选择学习奖励最高的输出。作者
SkillBloat: Token Amplification Attacks via Skill Injection in LLM Coding Agents
该论文研究了LLM编码代理（coding agents）中技能（skill）机制带来的新型资源滥用威胁——令牌放大攻击。技能是为编码代理扩展任务特定指令、脚本和资源的机制，但同时也创建了一个可信指令通道，可能被恶意利用。作者提出SkillB
BanglaVeilGuard: Cross-Script Safety Benchmarking and Lightweight Guardrails for Bangla Large Language Models
孟加拉语（Bangla）大语言模型的安全评测长期依赖英语中心或标准拼写基准，但真实用户常混用多种书写形式，包括标准孟加拉语、罗马化孟加拉语、Banglish（孟加拉语与英语混合）、代码混合孟加拉语-英语、噪声拼写及方言变体，导致现有安全评测