LiBRA: Detection-Aware Image Watermark Removal via Bidirectional Latent Optimization
数字水印是 AI 生成图像溯源与内容归属的重要技术手段, 其可信度取决于对「水印去除攻击」的抵抗能力。已有的一类攻击思路是逆向优化: 通过修改图像迫使水印解码器输出的比特序列偏离原始水印, 从而让检测失效。但该文指出这种「反转式」目标存在两
#provenance
共收录 52 条相关情报。
← 返回所有主题PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents
该论文研究使用工具的大语言模型（LLM）智能体的安全问题。此类智能体把生成文本转化为真实副作用，因此被污染的工具元数据、检索页面、记忆或可复用技能，都可能操纵下一次工具调用。作者指出，仅在准入前审查工件无法解决该问题：一个安全变体与一个泄密
Made to Measure: Designing Image Watermarks to Specification
该论文关注图像水印在溯源与归属中的工程化落地问题：水印需要把可验证的身份信息嵌入图像，而真实部署必须同时满足四类相互冲突的约束——抗攻击能力、误报率（FPR）、图像质量与处理延迟。现有水印方法往往只对特定类别的变换（如压缩、裁剪、几何变换、
ToolFence: Fine-Grained Authorization for Secure Tool-Using LLM Agents
该论文关注工具调用型 LLM Agent 面临的一个根因性问题：在单一上下文窗口中，来自用户的「可信指令」与来自外部环境的「不可信观测」（网页、邮件、工具返回内容等）混杂在一起，因此间接提示注入可以借观测内容劫持 Agent 的推理，甚至反
Know the Normal, Track the Attack: Context-Grounded and Stateful LLM Investigation over System Provenance
该论文关注基于溯源（provenance）的入侵检测系统（PIDS）在落地环节的一个核心痛点：PIDS 虽然能在系统审计流中识别可疑活动，但其输出通常只是孤立的异常点或子图，难以被转化为连贯、可读的攻击叙事，安全分析师仍需大量人工拼接。作者
TTMark: Pairwise Distortion-Free Watermarking Beyond Single-Token Entropy
该论文研究的是机器生成文本的「无失真水印」(distortion-free watermarking)技术。这类水印的核心承诺是:在不改变模型原始输出概率分布的前提下,把可检测的统计信号嵌入生成文本,从而实现对 AI 生成内容的可靠溯源与归
Poster: Towards ProofWeave: A Privacy-Minimised, Integrity-Anchored Evidence Plane for Continuous Agentic Assurance
该论文针对自主智能体（Agentic AI）系统的可审计性提出新概念 ProofWeave。背景是：现代智能体通过工具调用、记忆、任务委派和外部服务持续行动，其行为边界跨越多个组件与信任域。现有的可观测性与数据溯源（provenance）机
Optimizing and Securing the Modern Watermarking Channel for Images
该论文针对当前用于满足生成内容可追溯法规的多比特后验水印（post-hoc watermarking）方案展开理论剖析与改进。此类现代方案通常由一对深度神经网络构成编码器与解码器，被当作纯黑盒进行端到端训练；训练时把水印信道中的噪声建模为一
AuxMark: Defending Against Unauthorized Agent Distillation via Auxiliary Behavioral Watermarking
该论文关注大语言模型智能体（LLM Agent）面临的非法蒸馏（模型窃取）问题：Agent 通过多步交互与工具调用获得复杂能力，但其完整交互轨迹（trajectory）可能被第三方收集，用来训练能力相近的“学生 Agent”，从而绕过授权与
Certified Multi-Source Integrity for Structured Agent Actions
该论文研究的是 LLM 智能体（agent）在执行高权限、往往不可逆的结构化操作（例如「支付某张发票」）时，如何对其动作完整性与来源可信性进行可证明的认证。作者指出当前威胁模型的关键特点：智能体并不是从一个单一可信答案中取值，而是从多份文档
AGATE: Provenance-Based Runtime Defense Against Compositional Attacks on LLM Agents
该论文针对 LLM Agent 在真实业务环境中可能通过一连串「看似普通」的操作组合产生有害后果这一问题，提出了一种基于来源追溯（provenance）与授权的运行时防御机制 AGATE。作者指出，判断一个 Agent 动作是否应当被允许，
When the Agent Becomes the Kernel: A Systematization of Security on the Path to AI-Native Operating Systems
本文对"AI 原生操作系统"路径上的安全问题进行了系统化梳理（systematization）。研究背景是：大语言模型智能体已不再是单纯的文本生成器，而是被授予了高权限的主体（principal），能够直接编辑代码仓库、操作用户收件箱、完成
When Agentic Trust Crosses Organizational Boundaries: Structural Externalization and a Reference Model for Trust Evidence
该论文关注智能体（agentic）系统日益普遍地跨越组织边界调用工具、服务、数据乃至其他智能体的现象，指出现有治理模型存在一个结构性缺口：当一个动作由生产域（producing domain）的智能体发起并委托执行时，依赖方（relying
Watermarkable Multi-Draft Speculative Sampling via Poisson Processes
该论文研究大语言模型（LLM）部署中的两个关键需求：推理效率（inference efficiency）与输出溯源（output provenance），前者通常由推测采样（speculative sampling）解决，后者由文本水印（w
Making AI-Assisted Claims Independently Challengeable: Publication Authority and a Protocol for Falsifiable Publication Records
论文关注一个在 AI 辅助内容生产中日益突出的治理问题：当证据、分析过程、人工授权、对外呈现以及勘误历史分别指向不同的状态时，AI 辅助产生的结论会显得具有权威性，实际上各环节并不自洽。作者指出，现有的出处（provenance）、远程证明
Not All Relations Are Equal: Relation-Balanced and Calibrated Graph Learning for Provenance-Based Intrusion Detection
基于溯源（provenance）的入侵检测系统（PIDS）通过分析进程、文件、网络等实体之间的系统交互关系来识别高级持续性威胁（APT）。现有方法大多将各类关系（relation，即图中边类型，如读/写文件、网络连接、进程派生等）一视同仁地
AcquireBound: Runtime Authorization for Resources Acquired by AI Agents
该论文聚焦一个此前被忽视的授权盲区：自主 AI 智能体在执行任务过程中会「获取(acquire)」计算资源、凭证、账户、外部服务乃至其他智能体，这些被获取的对象一旦返回，就会给原任务引入新的权限。作者指出，现有的支付校验、预算控制、OAut
TrajMark: Ownership Attribution and Segment-Level Tamper Localization for Coding-Agent Trajectories
该论文关注编码智能体（coding agent）过程溯源问题。现有做法多为对智能体最终产出的补丁（patch）打水印，只能为提交的产物提供来源证据，却无法验证产生该产物的可见执行轨迹（trajectory）是否被篡改；而行为水印方法通常只给
Attestream: Usage-Aware Intermittent Data Distribution with Verifiable Lifecycle Provenance for Machine-Learning Data Streams
该论文提出 Attestream，一种基于区块链的架构，用于间歇性交付的数据集流，解决持续产生且商业价值高的数据（如传感器流、遥测数据、机器学习训练数据）提供商无法验证数据是否被实际使用的问题。核心思想是将持续交付与可验证的使用报告绑定：数
Structurally Close, Temporally Distant: Measuring Security Exposure in Long-Horizon LLM Agents
长期运行的大语言模型（LLM）智能体在与不受信任的内容、持久化内存、外部状态和敏感工具交互时，面临严重的安全风险。现有的安全分析往往以恶意输入与下游动作之间的执行步数来衡量攻击的距离，但本文指出，对于有状态的智能体，这种时间上的距离可能高估