LLM Agents Can Easily Tamper With Their Own Traces
论文研究 LLM Agent 执行轨迹(trace)的可信度问题。异步监控、事件响应调查与合规审计都高度依赖 agent traces 来还原"当时到底发生了什么",而这些流程隐含一个前提假设:agent 无法篡改自身的执行记录。作者系统性
共收录 16 条相关情报。
← 返回所有主题论文研究 LLM Agent 执行轨迹(trace)的可信度问题。异步监控、事件响应调查与合规审计都高度依赖 agent traces 来还原"当时到底发生了什么",而这些流程隐含一个前提假设:agent 无法篡改自身的执行记录。作者系统性
本文针对机器学习即服务(MLaaS)平台上生成模型快速普及所带来的合成媒体溯源难题,提出了一种无需修改生成器架构或参数的自引用逆合成框架,用于可解释的AI溯源取证。该框架假设生成器固定(fixed-generator setting),通过
本文针对 Fitbit Versa 智能手表开展数字取证分析,聚焦 Android 与 iOS 平台下的数据提取能力对比。Fitbit Versa 是 Fitbit 系列中最受欢迎的型号,其在健身追踪、健康监测和日常使用中积累了大量个人数据
该论文提出 CUSTOS,一种面向取证就绪的零信任(Zero Trust, ZT)参考架构,旨在解决零信任模型与传统数字取证之间的根本性冲突。零信任以持续验证取代隐式信任,但互TLS、瞬时工作负载、身份中心化控制及自动化修复等措施显著降低了
该论文针对现代高级网络攻击中审计日志采集系统存在的性能与安全问题展开研究。作者首先通过实验评估了当前主流的审计数据采集工具(如Linux auditd、sysdig以及其他研究原型),发现它们普遍存在三大缺陷:一是运行时开销过高,可使工作负
生成对抗网络(GAN)在合成逼真图像方面取得了显著进展,甚至能够欺骗人类观察者。为应对深度伪造带来的安全风险,已有多种检测方法通过识别生成过程中残留的图像伪影来区分真实与合成内容。然而,已有反攻击研究揭示了这些检测方法的局限性,但多数反攻击
该论文提出了一种名为 C2SR(Cybercrime Scene Reconstruction,网络犯罪现场重建)的框架,用于事后取证分析。传统取证方法通常依赖静态证据(如日志、文件快照),难以全面重构攻击者的行动路径和系统性影响。C2SR
本文从信息论角度系统分析了生成模型水印的取证能力。传统水印仅用于检测文本是否由机器生成,但本文提出水印还可用于用户归属(识别生成文本的用户)、隐藏载荷提取以及定位编辑后残留部分,这构成了一个“取证阶梯”(forensic ladder)。作
本文提出 CodeTracer,一个面向大语言模型代码补全系统中后门攻击的取证框架。背景是:代码补全系统(如 Copilot)依赖大型语言模型,但模型可能通过恶意微调数据被植入后门,导致生成恶意代码。现有防御技术难以检测和缓解自适应后门攻击
本文针对大规模生成模型快速发展导致的高度逼真AI生成图像泛滥问题,提出了一种新的通用合成图像检测框架RNSIDNet。现有取证网络通常依赖单一域表示和传统二分类优化,导致跨模型泛化能力差且对真实世界退化(如JPEG压缩、缩放等)鲁棒性不足。
本文提出了一种将检测工程与数字取证深度融合的统一方法论,基于Velociraptor平台实现。传统上,实时告警与事后取证分析各自独立发展,导致安全运维中两者脱节。作者设计了四阶段方法论:(1) 基线建立——通过收集正常系统状态(如Prefe
本文研究了对黑盒对话式LLM智能体进行数字取证的方法。随着LLM驱动的诈骗日益猖獗,识别隐藏端点背后的基础模型(归属)以及判断两个端点是否运行完全相同的系统提示(指纹识别),对于追溯诈骗来源、揭露犯罪网络和监控API变更至关重要。作者提出了
本文提出 WEBRR,一个针对现代 Web 攻击的取证回放与调查系统。当前 Web 应用广泛采用动态内容加载、跨域请求、JavaScript 异步交互等特性,导致传统基于静态页面或简单重放的取证工具难以准确捕获和复现攻击场景。WEBRR 通
本文提出了一种针对深度神经网络数据投毒攻击的取证溯源工具。在对抗性机器学习领域,新的防御措施常常被更强大的攻击迅速攻破,因此取证工具可以作为现有防御的有益补充,通过追溯成功攻击的根本原因,为未来防范类似攻击提供缓解路径。作者提出了一种新颖的
该论文提出了一种新型僵尸网络清除方法,核心思路是劫持恶意软件自身的更新机制,通过远程代码部署复用来分发修复载荷,从而在感染设备上隐蔽且及时地移除前端僵尸程序。与传统的DNS沉洞或C&C基础设施查封相比,该方法无需数月准备,且能绕过攻击者恢复
本文介绍了 DeepFake Forensics AI,一个统一的多模态深度伪造检测与区块链锚定证据管理平台。随着 AI 生成合成媒体的激增,数字证据在法证和法律场景中的完整性面临严重威胁。现有的深度伪造检测系统通常仅针对单一模态,且缺乏防