推荐 3.5
Conf: 50%
长时程智能体(如自动编码代理)执行数千个动作,其故障往往是顺序蔓延而非孤立错误。针对此类场景中的问责、因果追溯和第三方验证问题,论文提出“Agent Flight Recorder”(AFR):一种面向工具使用型智能体的防篡改审计追踪系统。该系统将智能体的每次操作捕获为一个结构化、规范化序列化的事件,包含从意图到执行至来源的八个语义字段,并通过哈希链与 Merkle 批处理实现篡改证据与紧凑的包含证明。为支持跨组织争议场景且不依赖任何一方的基础设施作为中立仲裁,AFR 定期将纪元根的哈希锚定到区块链上,使任何验证者都能借助公开的载荷和 Merkle 证明独立核验记录,而无需信任第三方中介。链上仅存储 32 字节的纪元根和回指针,事件本体不触碰链。实验基于合成智能体工作负载,评估了五种累积消融配置。结果表明:完整系统每次事件引入的中位延迟仅为约 48 微秒,每事件额外存储 512 字节;在 100 事件纪元的 L2 链上锚定成本约为每 10 万事件 2.30 美元。安全性方面,完整完整性栈可 100% 检测编辑、删除、重排序和分叉类篡改,且零误报。结构化取证查询在护栏(guardrail)与委派(delegation)审计上达到 1.0 的精确率,而对应的非结构化文本检索精确率仅为 0.013 和 0.077。该研究为高水平、可验证的智能体审计提供了新思路,适合对人工智能安全、审计与合规感兴趣的工程师和研究者阅读。
💡 推荐理由: 该论文填补了长时程智能体行为审计的空白,提供防篡改、可独立验证的追踪机制。对安全运营而言,可增强对提示注入、误操作等事件的溯源与问责能力,有助于构建可信的AI代理基础设施。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)