DeBERTa-ConPara: Attack-Aware and Deployment-Realistic Detection of AI-Generated Text
该论文研究 AI 生成文本检测器在真实部署条件下的鲁棒性问题。作者指出三类部署挑战会使在域内表现良好的检测器性能下降：跨领域与跨生成器的分布漂移、输入表层（surface）的对抗性扰动，以及缺少目标域标签用于阈值校准。为此提出 DeBERT
#cs.CL
共收录 424 条相关情报。
← 返回所有主题AuraForge: Scaling Security Supervision for Training Coding Agents
该论文关注的是一个正在快速浮现的安全盲区：随着编码智能体（coding agents）能力增强到可以从单条提示词直接生成复杂软件应用，人类监督方式已从逐行代码审查转向对最终运行结果的黑盒式验收。已有研究指出，这种转变带来关键风险——功能正确
Sapien: A Stateful Policy Engine for Autonomous AI Agents
该论文针对自主 AI 智能体（AI Agent）在工具调用场景下的安全问题，提出了一种名为 Sapien 的「有状态策略引擎」。研究背景是：当前主流的上下文安全防御思路，是先让模型根据当前任务即时合成一份任务专属策略，再用这份策略去约束智能
Speculative Safety Honeypot: Toward Proactive Defense Against Multi-turn Agent Attacks
这篇论文关注的是 LLM Agent 在多轮交互场景下所面临的安全威胁。随着 Agent 被部署到越来越复杂的工具调用与环境交互中，攻击者可以把恶意意图拆散到多个对话轮次里，逐步诱导 Agent 走向危险行为，而任何单独一轮的输入看上去都无
Covert Assistance: Helpful LLM Agents Evade Oversight in Multi-Agent Systems
该论文关注多智能体系统进入高风险领域后，智能体可能绕过安全边界的问题。以往研究主要聚焦对抗性场景，即智能体被明确指示或因奖励机制驱动而进行隐蔽通信、规避监督。作者指出，良性智能体在没有任何对抗性激励的情况下，同样能够越过这些边界。 研究方
VStress: Correlation-Aware Auditing and Adaptive Budget Allocation for Repeated Verifiers
该论文针对大模型推理中重复调用验证器（repeated verifier）的场景，指出仅当额外调用能带来条件信息增益时才有价值，否则会造成预算浪费甚至引入相关性偏差。作者提出 VStress——一种可审计的重放契约（auditable re
FinRT: Distilling Adaptive Red-Teaming Strategies into Reusable Adversarial Generators in Consumer Finance
该论文聚焦于受监管行业（尤其是消费金融）中大语言模型的安全失效问题：一些表面上完全无害的用户提问，可能触发模型的安全漏洞，使回答在合规政策边界上逼近甚至越界，带来监管与声誉风险。作者指出，现有自动化红队方法普遍在“攻击有效性”与“生成成本”
TTMark: Pairwise Distortion-Free Watermarking Beyond Single-Token Entropy
该论文研究的是机器生成文本的「无失真水印」(distortion-free watermarking)技术。这类水印的核心承诺是:在不改变模型原始输出概率分布的前提下,把可检测的统计信号嵌入生成文本,从而实现对 AI 生成内容的可靠溯源与归
SEABench: Benchmarking Endogenous Misalignment In Self-Evolving Agents
该论文关注自演化 LLM 智能体（self-evolving LLM agents）带来的内生性失配（endogenous misalignment）风险。这类智能体在部署后能够根据用户与环境反馈修改自身"装备"（harness），包括控制
Share-Borne AI Virus: Memory-Hopping Attacks Across LLM Agents
这篇论文研究的是「共享产物驱动的 AI 病毒」这一失效模式：当 LLM 被部署为有状态助手（能够跨会话保留记忆，并能通过工具读写、修改、创建持久化产物）时，这些产物在用户之间共享，就构成了一条间接通信通道，使原本相互独立的助手之间产生了隐式
TANGO: Watermarking Masked Diffusion Language Models in Token Pairs
该论文关注掩码扩散语言模型中的文本水印问题。此类模型并行填充掩码位置且没有固定解掩码顺序，导致多数假设从左到右生成的水印方法失效：传统方法通常将每个 token 与它之前的 token 关联，但在扩散模型中，那些前序 token 可能仍处于
How to Tame a Multi-Headed Hydra? Adaptive Multi-Category Safety Steering for Large Language Models
该论文关注大语言模型（LLM）部署中的安全对齐问题：当用户输入包含有害意图时，模型可能给出不安全回答。作者指出，现有的激活引导（activation steering）方法虽然在推理阶段通过修改模型内部隐状态来提升安全性、且无需更新参数，但
Tokens Change, Structure Endures: Spectral Watermarking for Generated Speech
该论文关注 AI 生成语音的溯源问题，即如何可靠地标识一段语音是由哪个模型生成的。现有神经音频水印方案大多依赖单独训练的水印生成器，而 token 级水印是一种免训练（training-free）的替代路线，可在生成过程中直接对离散 tok
Retrospective Distillation Attribution via Normalized Response Similarity
模型蒸馏通过在监督微调（SFT）阶段使用教师模型（通常来自商业 API）生成的回复来迁移能力，这使蒸馏后模型的来源归属（provenance）成为合规、许可与知识产权层面的现实问题。已有的蒸馏归因方法大多假设学生模型在 SFT 刚结束时就被
JevAdvBench: A Benchmark and Black-Box Attacks for Reinforcement Learning for Calibrated Decisions Models
该论文研究的是「面向校准决策的强化学习」(RLCD, reinforcement learning for calibrated decisions) 模型的对抗鲁棒性问题，代表模型是 Jev。这类模型与常规生成式模型不同：它接收输入(称为
Prompt Injection Detection for Email Agents Through Attack Chain Modeling
该论文研究的是 LLM 邮件助手面临的一类现实威胁：间接提示注入。由于邮件助手会从不可信的邮件正文、引用内容或历史线程中检索文本并放入模型上下文，攻击者只需在邮件中埋入指令，就可能影响助手后续的工具调用行为（如发送、转发、读取、修改日程等）
PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations
该论文（PrivDrift）关注一个在真实 LLM 部署中日益普遍但缺乏系统评估的隐私问题：当用户在持续会话中主动披露敏感信息后，这些信息是否会在话题转移之后仍可被后续提示"重新提取"出来。作者指出，当前 LLM 越来越多地以持久化助手的形
Just Ask Jev: Reinforcement Learning for Calibrated Decisions as a Zero-Shot Detector of AI Alignment Failures
该论文研究的是「对齐失败检测器」这一模型安全评估环节。作者指出,现有的对齐检测主要有两类：一是生成式评判器（generative judge），每评估一条标准就要消耗一次完整的解码过程，成本高；二是读取 token 概率的分类器（如 Lla
Automated Extraction of Records of Processing Activities (RoPA) Using Hybrid RAG and Locally Deployed Large Language Models
该论文针对越南《个人数据保护法》(第 91/2025/QH15 号) 及第 356/2025/ND-CP 号议定 (2026 年 1 月 1 日生效) 强制要求组织建立并维护《处理活动记录》(RoPA) 这一合规义务展开研究。RoPA 的痛
Capable yet Parsimonious: Extracting and Characterizing Hidden Chain-of-Thought in Frontier Models
【研究背景】前沿语言模型近年的能力跃升常被归因于推理能力的提升，但在闭源系统中，原始思维链（CoT）轨迹被隐藏，外界无法验证这一说法，也无法审计模型真实的推理过程。【核心问题】如何在不获取模型内部权重或私有日志的前提下，把闭源模型隐藏的中间