Rent-a-RAG: Embedding-Space Watermarks for Auditing Third-Party RAG
第三方检索增强生成（RAG）市场带来了新的审计问题：数据提供商将语料库授权给RAG运营商后，无法得知其文档是否被未经补偿地重复使用。由于运营商不合作、生成器会改写答案、且单次响应可能结合多个提供商的证据，审计尤为困难。为此，论文提出DirB
#auditing
共收录 20 条相关情报。
← 返回所有主题Memorization Is Not Extraction: Tight Differential-Privacy Bounds and Audit Blind Spots
本文研究大语言模型（LLM）中记忆与提取现象的度量问题。长期以来，模型记忆的定义繁多且关系不明，差分隐私（DP）常被当作同时控制所有记忆形式的统一代理。作者针对实际应用中最重要的两类定义——反事实记忆（counterfactual memo
zkCross: A Novel Architecture for Cross-Chain Privacy-Preserving Auditing.
本文提出了一种名为 zkCross 的新型跨链隐私保护审计架构。随着区块链生态中跨链交互日益频繁，跨链交易的安全性和隐私性成为关键挑战：一方面需要确保跨链数据的完整性和审计可追溯性，另一方面又要保护交易双方的隐私，避免敏感信息泄露。现有跨链
Poster: An Analysis of Privacy Features in 'Expert-Approved' Kids' Apps.
该论文对被称为“专家认可”的儿童应用（Kids' Apps）中的隐私功能进行了系统性分析。研究背景在于，儿童应用通常声称符合隐私保护标准，但实际实现可能存在较大出入，而家长往往依赖应用商店的评级或专家推荐来做出选择。作者提出了一种静态与动态
Mind the Hook: Source-Level Auditing of Privacy Defenses in Retrieval-Augmented Generation
该论文针对检索增强生成（RAG）系统中的隐私防御措施提出了一种基于源码的主动路径审计方法论。研究指出，黑盒隐私分数难以解释，除非明确被审计防御机制在系统管线中的实际挂钩点。为此，作者提出了主动路径审计方法：首先对检索、检索内容处理以及生成三
Collusion with Competitive Marginals: Price-Level Audits Are Blind by Construction
本论文研究算法合谋检测的根本局限性。作者提出一种新的合谋机制：多个出价代理仅通过未解释竞价分量的联合分布进行耦合，而每个代理的自身出价边际分布保持与竞争性法则完全一致。在这种设定下，任何仅以单个代理价格或出价历史作为输入的检测方法，其统计功
Guardrails as Scapegoats: Auditing Unfaithful Safety Refusals in Tool-Augmented LLM Agents
该论文研究了工具增强型大语言模型（LLM）Agent在面对静默基础设施故障时的行为，特别是当外部工具返回HTTP 200响应但payload为空、null或畸形时。现有评估框架主要关注能力指标或显式工具崩溃，忽略了这类静默失败。作者提出了一
Plausible Deniability Guarantees for Whistleblowers
该论文针对举报人保护问题，提出了一种基于差分隐私的审计选择机制，旨在防止组织通过观察审计选择来识别举报人。现有方案缺乏正式隐私保证，而差分隐私机制也未直接针对这一自然威胁模型。作者首先形式化了强敌手威胁模型下的每报告（per-report）
Auditing of Unlearning Algorithms
本文针对机器学习模型遗忘算法是否真正消除了训练数据影响的问题，提出了一种实用的审计方法。研究者设计了一个基于成员推断攻击的审计器，通过计算与数据相关的遗忘参数ε的下界，来评估遗忘算法是否达到其声称的隐私保证。在CIFAR-100和Shake
VCT: A Verifiable Transcript System for LLM Conversations
该论文针对大规模语言模型（LLM）对话记录在数字取证和合规审计中日益重要的应用背景，指出传统的线性防篡改日志无法捕捉LLM对话内在的非线性演化特性，例如基于历史查询的重新提示、回复重生成、会话删除、多设备并发以及选择性分享。为解决这一问题，
Auditing Combinatorial Randomness from Finite Transcripts
该论文研究了从有限公开记录中审计组合随机性的问题。公共随机性是一种安全原语，但其实际行为往往只能通过有限的记录片段观察。作者针对从 m 个标签中无放回均匀抽取 k 个子集（共 C(m,k) 种可能）这一过程，在精确均匀无放回零假设下进行黑盒
Holding Secrets Accountable: Auditing Privacy-Preserving Machine Learning.
本文针对隐私保护机器学习（PPML）与机器学习审计这两个此前大多独立研究的领域进行了交叉探索。随着PPML技术（如安全多方计算、同态加密、差分隐私等）的发展，使得对高度敏感数据（例如医疗、金融记录）进行机器学习分析成为可能，然而严格的隐私法
Beyond Native Success: Auditing Deployment-Interface Exposure of CLIP Backdoors
本文研究了对比语言-图像预训练（CLIP）模型在不同下游部署接口（如特征提取、检索、重排序和选择）中后门暴露的一致性问题。现有CLIP后门攻击通常在单一原生任务上验证，但模型复用时，相同后门在不同接口下的暴露程度未知：可能保持、减弱或失效。
Split Tallies: A Discrete Certificate Calculus for Auditing Dynamic Ordered Sets in Constant Memory
本文研究动态有序集合（支持插入、删除、成员查询、前驱后继、最小值最大值等操作）的回顾性审计问题。集合由不可信方维护，被动审计者（auditor）仅需存储 5 个机器字和 1 个标志位，并在每次操作时接收一个常量大小的公开 tally 记录。
On the Shoulders of Giants: Empowering Automated Smart Contract Auditing via the GiAnt Corpus
该论文提出了 GiANT 自动化框架，旨在解决智能合约审计数据集构建中的人工可扩展性瓶颈以及数据粒度和多样性不足的问题。GiANT 采用分治策略结合思维链技术，从 Code4rena 平台上的真实审计报告中提取结构化漏洞信息，并通过 LLM
Decoupled Smart Contract Audits: Lightweight LLM Framework via Distillation and Aggregation
该论文提出了一种轻量级的智能合约安全审计框架，利用经过蒸馏和聚合的开放源码大语言模型（LLM）来应对现有基于LLM的审计方法存在的计算开销大、缺乏严重性评估以及可操作修复建议等问题。框架将审计任务解耦为四个独立模块：漏洞检测、漏洞解释、严重
Token Inflation: How Dishonest Providers Can Overcharge for Large Language Model Usage
本文研究了大型语言模型（LLM）商业服务中按token计费模式下的审计漏洞。当前主流计费方式是基于token数量收费，但服务提供商出于保护知识产权、防御越狱攻击和用户隐私等理由，隐藏了模型、分词器及执行细节，使得用户难以独立验证计费toke
General-Purpose f-DP Estimation and Auditing in a Black-Box Setting.
本文研究差分隐私（DP）的精细变体——f-差分隐私（f-DP）的统计评估与审计方法。f-DP通过一个函数f描述隐私损失，相较于标准ε-DP具有更紧的组合性质，但实际验证机制的隐私保证仍具挑战，尤其在黑盒场景下。现有f-DP审计方法通常需要预
Symmetry Defeats Auditing
本文展示了一种针对内省适配器（Introspection Adapters）的攻击方法。内省适配器是一种用于审计大型语言模型内部状态的机制，旨在检测模型是否遵循安全约束。研究者发现，由于内省适配器依赖的对称性假设（例如，模型内部状态与审计信
SoK: Dataset Copyright Auditing in Machine Learning Systems.
本文是一篇系统化知识（SoK）论文，聚焦于机器学习系统中数据集版权的审计问题。随着ML模型规模增大，训练数据需求激增，但未经授权的数据使用（如在线艺术作品或人脸图像）引发了严重的侵权与滥用问题。为应对此挑战，研究者提出了多种审计方法，但现有