The Fragility of Trigger-Tag Mechanisms for Misuse Detection in Open-Weight LLMs
该论文关注开放权重语言模型的安全防护问题。由于开放权重模型可被任意下载、修改并部署在开发者控制范围之外，中心化强制保护措施的效果有限。近期研究提出 trigger-tag 机制：当模型在目标条件下被使用（如生成钓鱼内容）时，产生可检测信号。
#watermarking
共收录 54 条相关情报。
← 返回所有主题SEW: Style-Encoded Watermarking of LLM-Generated Code
该论文关注 LLM 生成代码的来源追踪(provenance)问题, 提出名为 SEW(Style-Encoded Watermarking)的代码水印方案。研究背景是: 现有代码水印大体分为两类路线——一类在模型生成过程中修改 token
TTMark: Pairwise Distortion-Free Watermarking Beyond Single-Token Entropy
该论文研究的是机器生成文本的「无失真水印」(distortion-free watermarking)技术。这类水印的核心承诺是:在不改变模型原始输出概率分布的前提下,把可检测的统计信号嵌入生成文本,从而实现对 AI 生成内容的可靠溯源与归
TANGO: Watermarking Masked Diffusion Language Models in Token Pairs
该论文关注掩码扩散语言模型中的文本水印问题。此类模型并行填充掩码位置且没有固定解掩码顺序，导致多数假设从左到右生成的水印方法失效：传统方法通常将每个 token 与它之前的 token 关联，但在扩散模型中，那些前序 token 可能仍处于
Optimizing and Securing the Modern Watermarking Channel for Images
该论文针对当前用于满足生成内容可追溯法规的多比特后验水印（post-hoc watermarking）方案展开理论剖析与改进。此类现代方案通常由一对深度神经网络构成编码器与解码器，被当作纯黑盒进行端到端训练；训练时把水印信道中的噪声建模为一
AuxMark: Defending Against Unauthorized Agent Distillation via Auxiliary Behavioral Watermarking
该论文关注大语言模型智能体（LLM Agent）面临的非法蒸馏（模型窃取）问题：Agent 通过多步交互与工具调用获得复杂能力，但其完整交互轨迹（trajectory）可能被第三方收集，用来训练能力相近的“学生 Agent”，从而绕过授权与
Tokens Change, Structure Endures: Spectral Watermarking for Generated Speech
该论文关注 AI 生成语音的溯源问题，即如何可靠地标识一段语音是由哪个模型生成的。现有神经音频水印方案大多依赖单独训练的水印生成器，而 token 级水印是一种免训练（training-free）的替代路线，可在生成过程中直接对离散 tok
FeatMark: Feature-level Watermark Protection against Mimicry Attacks with Diffusion Models
该论文关注文本到图像扩散模型被滥用于数据高效的"模仿"（mimicry）攻击的问题：攻击者只需少量目标个体的公开照片，即可微调模型生成高度逼真的伪造图像（如换脸式深度伪造）。常见对策是在图像中嵌入不可感知的低能量水印，但近期研究证明这类像素
TP-CRIV: A Framework for Third-Party Challenge-Response Identity Verification of AI Models
该论文针对 AI 模型经远程服务对外提供时日益突出的「模型被盗用/冒名」问题，提出了一种名为 TP-CRIV（Third-Party Challenge-Response Identity Verification，第三方挑战—应答身份验证
Watermarkable Multi-Draft Speculative Sampling via Poisson Processes
该论文研究大语言模型（LLM）部署中的两个关键需求：推理效率（inference efficiency）与输出溯源（output provenance），前者通常由推测采样（speculative sampling）解决，后者由文本水印（w
What Breaks Local Watermarks? A Robustness Benchmark for Local Invisible Image Watermarking
局部图像水印（local watermarking）与传统的全图水印不同，它只把不可见信号嵌入到图像的特定区域内，而不是平铺到整幅图像上，因此可以从某个目标物体或指定区域中恢复出载荷（payload）并给出该区域的大致定位（localiza
TrajMark: Ownership Attribution and Segment-Level Tamper Localization for Coding-Agent Trajectories
该论文关注编码智能体（coding agent）过程溯源问题。现有做法多为对智能体最终产出的补丁（patch）打水印，只能为提交的产物提供来源证据，却无法验证产生该产物的可见执行轨迹（trajectory）是否被篡改；而行为水印方法通常只给
Watermarks Without Verification: AI Text Watermarking After the EU AI Act
本文围绕欧盟《人工智能法案》第 50 条生效后的 AI 文本水印治理问题展开。按照论文所述，2026 年 8 月 2 日起，该条款要求生成式 AI 提供方对其系统产出的内容进行标记，并确保这些内容可被识别为 AI 生成。在此背景下，Anth
WeaveMark: Robust and Scalable Multi-bit LLM Watermarking via Coded Payload Spreading
大型语言模型（LLM）的广泛应用带来了生成内容溯源与合规治理的需求。多比特水印技术通过将用户可追踪的身份信息嵌入模型输出文本，能够实现内容来源的精细化追溯。然而，现有方案普遍面临提取准确率、文本质量与载荷容量三者之间的根本性权衡。本文提出一
What Limits Robustness in Deep Image Watermarking: An Analysis of Mechanisms and Their Scaling Across Capacities
该论文针对深度图像水印中鲁棒性这一核心开放问题展开分析，重点研究当payload容量增长时，鲁棒性受限的根本原因。作者提出两个问题：容量本身是否是限制因素，还是仅仅暴露了其他潜在限制？论文给出两部分回答。第一部分系统梳理了水印必须承受的各种
Entangled Watermarks as a Defense against Model Extraction.
本文针对机器学习模型被窃取（model extraction）的知识产权保护问题，提出了一种名为 Entangled Watermarking Embeddings (EWE) 的模型水印方法。传统模型水印通过让模型在训练时过拟合到一些远离
MeMark: Membrane-Space Watermarking for Spiking Neural Networks
本文提出 MeMark，一种面向脉冲神经网络（SNN）模型水印的新方法，专门针对模型检查点复用（checkpoint-reuse）场景。现有 SNN 水印通常将标识嵌入输出层，攻击者只需替换输出头即可移除验证证据。MeMark 将多比特标识
SAC-Copula: Quality-Preserving Watermarking for Diffusion Language Models via Smooth Correlated Gumbel Fields
该论文提出 SAC-Copula，一种面向扩散语言模型（DLM）的保质量水印方法。与自回归解码不同，DLM 采用迭代并行去掩码机制，现有基于采样的水印方法通常注入逐位置的独立同分布扰动，与 DLM 的解码动态不匹配，导致生成质量下降。SAC
Auditing Cross-Lingual Fairness in Language Model Watermarking
该论文指出，当前大语言模型（LLM）输出水印方案的评估几乎完全基于英文文本，并且使用固定的检测阈值和狭窄的一组质量测量手段，这使得跨语言部署中的公平性问题被系统性忽视。作者提出了一套跨语言公平性审计框架，包含四个关键组成部分：第一，根据具体
Reversible Unlearnable Examples: Towards the Copyright Protection in Deep Learning Era
本文针对深度学习时代数据版权保护面临的两大威胁：未经授权的模型训练（非法利用数据训练模型）和恶意数据泄露（攻击者窃取或泄露受保护数据）。现有方法通常分别使用不可学习样本（unlearnable examples）和数字水印技术，但作者发现简