#agent-observability

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Bravish Ghosh

Tracekit 是面向自主编码代理的开源、无依赖审计系统,针对的核心问题是:编码代理会读取不可信文件、执行 shell 命令、派生带极少监督的子代理,但事后留存的往往只是可被随意编辑的日志,无法作为可信证据。Tracekit 为每个代理会话同时采集三条通道:人类下发的意图(intent)、模型对自身推理的自述(self-report)以及实际执行的动作(actions),写入哈希链式、可外部锚定的账本,并对三条通道做交叉校验。系统通过钩子接入 Claude Code 的生命周期事件,重建多代理层级结构,在工具调用执行前用策略进行拦截,同时支持其他代理经 SDK 或 HTTP API 上报事件,并提供在浏览器中实时复核账本的可视化观察器。 实验部分共五项:(1) 在 1600 次随机篡改中,哈希链可检出全部编辑、删除、重排、伪造插入与撕裂写;仅尾部截断和整体重链需依赖外部锚定才能发现,锚定间隔为 300 条记录时检出率降至 0.47,与闭式模型吻合。(2) 单次钩子中位开销 23.9ms,在账本增长至 10 万条时保持平稳,16 个并发写入者下链仍正确。(3) 正则策略门仅拦截 44 次有害工具调用中的 18 次(41%),并误拦 3/40 次良性调用,简单改写即可绕过。(4) 在 14 次真实 Claude Code 运行中,代理未执行 4 处植入的间接提示注入且均主动披露;但供应商隐去了全部 27 个思考块文本,自述通道仅限可见散文。(5) 提出 seeded-fault splicing(向真实轨迹注入隐蔽错位步骤)新方法,在 63 条轨迹、126 次评审中,规则标记捕获 40/49(82%),独立 LLM 评审捕获 98/98(100%),对未修改轨迹误报 1/14。系统、测试框架与全部轨迹均已开源。

💡 推荐理由: 代理日志普遍可被篡改,Tracekit 给出可外部锚定的哈希链证据链与意图-动作交叉校验,并量化了正则门失效边界(仅 41% 拦截)与锚定间隔对检出率的衰减,为 SOC 构建代理可观测与取证基线提供可复用参考。

🎯 建议动作: 研究跟进并纳入内部评估

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)