A False Average: Chain-of-Thought Monitors Collapse Where They Are the Only Defense
该论文针对链式思维（Chain-of-Thought, CoT）监控的鲁棒性展开研究。CoT监控旨在通过检查智能体的推理过程来识别奖励黑客行为（reward hacking），因为这类攻击在动作层面可能表现正常，仅在推理中暴露意图。然而作者
#cs.CL
共收录 424 条相关情报。
← 返回所有主题Auditable Release Control for Pedagogical Leakage in LLM Tutors
该论文针对大语言模型（LLM）辅导系统中一类特殊的失败模式：模型给出的回答虽然正确且有帮助，却可能在未经授权的情况下提前泄露答案或关键推理步骤。作者将这种状态与动作相关的失败形式化定义为“教学泄漏”（pedagogical leakage）
Leak It: A Probabilistic Approach to Training-Data Extraction from Black-Box Language Models
本论文针对黑盒语言模型训练数据泄露问题，提出了基于概率视角的成员推断（MIA）审计方法，并批判了传统聚合指标（如ROC-AUC）的误导性。作者首先指出，现有的MIA评估常被无模型盲基线混淆，这类基线仅通过表面文本特征就能较好区分成员与非成员
GoldenRetriever: Non-Interactive Homomorphic Encrypted Retrieval for Privacy-Preserving RAG
本文提出了一种名为 GoldenRetriever 的隐私保护检索增强生成（RAG）框架，旨在解决传统 RAG 流水线在明文数据上运行导致的隐私泄露问题。现有隐私保护检索方案多采用同态加密（HE）或私有信息检索（PIR），但往往依赖交互式协
TextCloak: Thwarting Unauthorized LLM Exploitation via RL-Driven Unlearnable Text
本文针对大语言模型（LLM）时代中未经授权数据利用与隐私泄露问题，提出一种名为 TextCloak 的防御框架。现有文本不可学习样本（UEs）方法主要面向情感分析等判别式分类任务，通过注入类别特定的语言线索来破坏模型训练效果，但在 LLM
ThreatForest: Multi-Agent Attack Tree Generation with Pluggable TTP Framework Mapping
该论文提出 ThreatForest，一个面向云原生架构威胁建模的多智能体系统。传统威胁建模依赖人工分析源代码仓库，速度慢且需要稀缺的安全专家。ThreatForest 将威胁建模分解为多阶段智能体流水线，包括仓库分析、上下文精炼、威胁生成
On-Policy Distillation for LLM Safety: A Routing Approach to Template-Robust Realignment
本文针对大型语言模型（LLM）在微调过程中存在的安全漏洞展开研究。作者指出，恶意数据提供者可以将有害行为嵌入下游训练语料，导致模型在保留专业技能的同时，按照要求违背人类价值观。现有的安全重对齐防御通常面临三大局限：一是容易造成模型对专业技能
AgentSnare: Learning to Delay, Divert, and Defuse Autonomous Penetration Agents
该论文针对大语言模型（LLM）驱动的自主渗透测试代理提出了一种新型动态欺骗防御系统 AgentSnare。LLM 代理通过“观察-行动”循环与工具交互：代理选择动作，工具返回观察结果，代理再基于观察继续决策。这种依赖关系使得防御方可以注入欺
SecRespond: Benchmarking AI Agents for Real-World Post-Compromise Incident Response
本文提出了 SecRespond，据作者称这是首个用于评估大语言模型（LLM）智能体在后渗透（post-compromise）事件响应工作流中能力的基准测试。当前大多数网络安全基准测试聚焦于攻击发生前的“预渗透”场景，智能体被放置在一个干净
GPT-Red: Automated Red Teaming via Self-Play at Scale
本文介绍了 GPT-Red，一个用于自动红队评估的大语言模型智能体，其核心目标是自动发现针对前沿大语言模型的提示注入攻击。研究背景是随着 LLM 在真实生产系统中的广泛应用，提示注入等安全威胁日益严峻，而传统人工红队效率低、覆盖有限，因此需
Stemma: Induced Decision Regions Reveal LLM Provenance
该论文研究了大语言模型（LLM）的来源追踪（provenance testing）问题，即判断一个待检模型是否与某个源模型属于同一训练或开发谱系。现有黑盒方法大多依赖于模型输出文本的表面特征，但这些特征在模型经过微调、适配或部署环境变化时容
Evaluation of Adversarial Robustness in Arabic Language Models
这篇论文系统评估了五种最先进的阿拉伯语大语言模型在多种对抗攻击下的鲁棒性，并探索了基于对抗训练的防御方法。研究背景是：随着阿拉伯语模型能力的提升，它们面临的安全风险也随之增加，其中对抗攻击可以使模型产生错误预测，造成严重的安全和伦理问题。作
Occluded Oculus: Operationalizing Stylistic Obscurement
本文提出了一种名为 TraceTarnish 的文本作者匿名化系统，旨在对抗基于风格计量（stylometry）的作者识别技术。研究灵感来源于希腊神话中赫尔墨斯击败百眼巨人阿耳戈斯的故事，象征着通过巧妙策略战胜强大的监视系统。TraceTa
TriShieldRAG: A Three-Ring Defense-in-Depth Framework Against Knowledge Corruption in Retrieval-Augmented Generation
检索增强生成（RAG）通过引入外部知识库，使大语言模型能够基于检索到的文档生成答案，从而减少幻觉并适应快速变化的信息。然而，RAG 系统面临知识投毒攻击：攻击者只需上传少量对抗性文档，就能操纵模型输出错误答案。PoisonedRAG 研究显
HiTMS: A High-Throughput Multi-Stream Linguistic Steganography Framework
该论文提出了一种名为 HiTMS 的高吞吐量多流语言学隐写框架。传统生成式语言学隐写方案是单流的，即通过单个提示的单个响应来传递完整的秘密消息，这导致两个问题：缺乏对批量多流推理的协议级支持，且简单的批量处理无法隐藏槽位占用或有效载荷完成状
Adversarial Prompts for Acceptance Collapse in Speculative Decoding
推测解码是一种无损加速方案，通过草稿模型与目标模型之间的动态token级对齐实现推理加速。然而，这种语义等价的保证隐藏着严重的操作漏洞：草稿-目标对齐可被系统性攻击。本文提出ADSD，据我们所知，这是首个通过推动草稿概率质量朝向目标模型不太
Beyond Heavy Log Curation: Perplexity-Based APT Detection via Unsupervised, Context-Augmented Language Models
本论文提出了一种名为 CAPTAIN（Context-Augmented Perplexity-based Threat Activity log detectIoN）的 APT 检测方法。研究背景是高级持续性威胁（APT）检测的难点在于大
JANUS: Foreseeing Latent Risk for Long-Horizon Agent Safety
本文针对长周期工具型AI代理的安全问题，提出了一种前瞻性防护框架Janus。传统的内容过滤方法难以应对代理执行复杂任务时因延迟风险导致的故障。Janus通过多智能体模拟合成多样化的代理轨迹，并训练一个共享策略，该策略包含两个耦合任务：1）预
Twin Agent: Context Residual Compression for Privilege Separated Agents
大型语言模型（LLM）代理面临多种安全风险，尤其是来自不可信上下文的提示注入攻击，这些攻击会操纵下游推理和工具使用。现有的安全设计方法通过分离不可信观察与特权执行，并严格控制信息流来缓解风险，但往往降低效用且需要大量特定任务的工程工作。本文
Find Before You Fine-Tune: A Diagnostic Study of Small LLMs for Cybersecurity QA
该论文针对网络安全领域中小型大语言模型（LLM）的微调选择问题，提出了一种任务导向的诊断框架FiT（Find before Fine-Tune）。研究背景是：在网络安全问答（QA）这样的关键领域，微调可以提升领域对齐，但可能侵蚀预训练知识、