The Shape of Ownership: Verifying LLM Provenance through Semantic Structures
本文针对大型语言模型（LLM）在再分发、适配和透明API服务场景下所有权难以验证的问题。由于模型可能被微调、量化或通过黑盒API提供服务，传统的基于内部权重或部署记录的验证方式不再可靠，因此需要一种可通过黑盒交互观察的行为签名。现有黑盒指纹
#provenance
共收录 52 条相关情报。
← 返回所有主题Retrosynthesis of Synthetic Media for Explainable AI Provenance Forensics
本文针对机器学习即服务（MLaaS）平台上生成模型快速普及所带来的合成媒体溯源难题，提出了一种无需修改生成器架构或参数的自引用逆合成框架，用于可解释的AI溯源取证。该框架假设生成器固定（fixed-generator setting），通过
Stored Is Not Supported: Typed Provenance and Assertion Guardrails for Persistent AI Agents
持久化 AI 智能体通过反思、检索与整合构建自传式状态，但这种持久化仅改变信息的可用性，并未提升其认知地位——存储或检索到的内容并不能自动获得有效支持。因此，不受信任的输入、提示注入以及模型自身的推断都可能渗入持久状态，并在后续被系统误当作
OreProof: Verifiable Provenance with Limited Disclosure for Critical-Minerals Supply Chains Using Zero-Knowledge Proofs
本文报告了 OreProof 的设计科学实践：一个面向关键矿物（以黄金为实例）供应链的可追溯性平台原型。核心问题在于供应链中存在结构性矛盾：监管方和买家要求可验证的来源，而上游参与者不愿透露供应商身份、品位/产量和价格等敏感信息。OrePr
WoE Wrote It? Watermarking Mixture-of-Experts LLMs for Black-Box Text Provenance
大型语言模型（LLM）水印技术为文本溯源提供了机制，使模型所有者能够识别机器生成内容并归属到特定水印模型。然而，现有LLM水印方法主要依赖推理时采样器，且聚焦于密集模型。这类方法仅在文本通过模型所有者受控API显式生成时有效，在模型被窃取或
How Do LLM Agents Actually Get the Flag? Trace-Level Provenance for Agentic Offensive Security Evaluation
该论文针对当前基于CTF（夺旗）基准评估大语言模型（LLM）智能体攻防能力时存在的评估浅层化问题展开研究。现有评估通常仅依赖二值化的成功/失败判断或聚合分数，忽略了智能体从初始状态到达flag的完整轨迹，导致真实漏洞利用行为与直接暴露fla
Utility Under Attack: Agent Memory Poisoning and the Limits of Content Screening and Provenance Ranking
本文研究了大型语言模型（LLM）智能体中持久记忆机制的安全漏洞：一旦虚假信息被写入记忆，它会在未来会话中被检索，导致错误持久化。作者在LongMemEval语料库中通过单次注入、无需任何指令或触发器，仅用1.2%的明显虚假断言即可将模型准确
Incorporating Gradients to Rules: Towards Lightweight, Adaptive Provenance-based Intrusion Detection.
该论文针对基于溯源（provenance）的入侵检测系统（PIDS）中规则方法检测精度不足、误报率高的问题展开研究。现有规则型PIDS虽然具备轻量级、实时性强和可解释性等优势，但规则通常过于粗糙且缺乏针对具体环境的配置，导致在实际部署中难以
eAudit: A Fast, Scalable and Deployable Audit Data Collection System.
该论文针对现代高级网络攻击中审计日志采集系统存在的性能与安全问题展开研究。作者首先通过实验评估了当前主流的审计数据采集工具（如Linux auditd、sysdig以及其他研究原型），发现它们普遍存在三大缺陷：一是运行时开销过高，可使工作负
PIPES: Securing Agent Perception with Provenance and Priors
本文研究了工具型智能体（tool-using agents）在消费外部数据时面临的安全问题。这类智能体会从不同可信级别的来源获取数据，但工具响应通常不标明每个响应单元的来源或预期语义，导致智能体可能被攻击者控制的内容污染。作者将这种攻击定义
Correct Is Not Governed: Provenance Integrity in Agentic Workflows
该论文针对智能体工作流（agentic workflows）评估标准过于单一的问题展开研究。传统上，系统是否成功仅取决于是否达到正确结果，但在机构化场景中，这一标准远远不够：一个动作即使结果正确，也可能依赖于错误的权威来源、包含未经证实的完
Tracing Provenance and Detecting Tampering with Complementary LLM Watermarks
本文针对大语言模型（LLM）生成文本的溯源与篡改检测问题，提出了一种新型互补水印方法。现有水印技术通常对文本编辑具有鲁棒性，能够保持溯源属性，但这种鲁棒性也带来安全漏洞：攻击者可以在保留水印归属的同时对关键内容进行篡改，即所谓的“piggy
A Study of Kernel Telemetry Options for Security-Oriented Provenance
本论文围绕安全取证场景下的系统溯源（provenance）展开，系统性地研究了主流内核遥测（kernel telemetry）采集方案。作者首先梳理了现有的溯源捕获方法，对比了基于内核模块、硬件辅助、以及 eBPF 等技术路线的优劣，认为
Soft Redaction of Image Provenance via Zero-Knowledge Proofs
该论文提出了一种用于图像来源信息（provenance）的“软删除”（soft redaction）机制，旨在解决C2PA等来源标准中透明度与隐私之间的冲突。C2PA标准通过附加签名记录来声明图像的来源、编辑历史和权利信息，但这些断言可能泄
How Benchmarks and Evaluation Protocols Shape Conclusions in Provenance-Based Intrusion Detection
该论文系统研究了基准测试与评估协议如何影响基于溯源（provenance）的入侵检测系统（PIDS）的性能结论。作者指出，许多 PIDS 在论文中宣称高检测性能，但这些结论往往对所选数据集和评估方式极为敏感。为了揭示这一依赖关系，他们在满足
Memory Provenance Laundering in LLM Agents: A Non-Amplification Firewall for Persistent Memory
本文研究大型语言模型（LLM）智能体的长期记忆机制引入的新安全风险：记忆来源清洗（memory provenance laundering）。在LLM智能体中，长期记忆允许智能体重用之前的偏好和工作流程，但同时也将不可信的观测内容转化为持久
TRACE-CTI: Auditable Post-Extraction Governance of TTP Claims with Knowledge Graphs
安全运营中心（SOC）越来越依赖自动化工具将网络威胁情报（CTI）报告映射到MITRE ATT&CK框架，但提取器的输出仍然存在错误，且通常不附带证据、溯源和验证历史，导致难以判断单个映射的可信度。本文提出TRACE-CTI，一个事后提取声
Sometimes Simpler is Better: A Comprehensive Analysis of State-of-the-Art Provenance-Based Intrusion Detection Systems.
本文对当前最先进的基于溯源的入侵检测系统（PIDS）进行了全面分析。研究背景是，尽管PIDS在检测复杂攻击方面表现出色，但其方法日益复杂，导致部署和解释困难。核心问题是：现有复杂方法是否真正优于更简单的替代方案？作者选取了多个代表性系统（如
Are we there yet? An Industrial Viewpoint on Provenance-based Endpoint Detection and Response Tools.
本文首次从工业界视角系统评估了基于溯源的端点检测与响应（P-EDR）系统的有效性与局限性。研究通过一对一的专家访谈、在线问卷调查、相关文献调研以及系统性的测量实验四部分展开。结果显示，所有工业界专家均认为P-EDR系统比传统EDR更有效，但
PAPI: Provenance-Aware Parse Insertion for LangSec Mediation.
本文提出 PAPI（Provenance-Aware Parse Insertion），一种基于来源感知的解析插入方法，用于实现语言安全（LangSec）的中间件。该方法通过追踪数据来源，在解析过程中动态插入安全控制，以防范协议混淆和注入攻