#durability

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Neeraj Kumar Singh Beshane

本文针对AI审计记录在持久性和信任边界上的关键约束进行了深入探讨。作者指出,若在持久化写入前就返回受保护的决策,虽能最小化延迟,但无法保证证据在系统立即崩溃后仍然存活。为此,他们重新构建了RuntimeGuard-AI研究原型,将每个确定性策略决策与精确的策略来源绑定,在调用方选择的同步边界处提交隐私最小化的记录,并返回一个Ed25519签名的回执,明确告知该同步边界是否完成。系统在重启后会验证框架记录、清单、分片放置、序列连续性和重放身份。此外,独立的认证路径将已提交记录组织成链式签名的Merkle epoch,审计员可利用外部获得的密钥进行验证。实验基于Apple M4 Pro平台,使用四个工作线程和2048字节提示,在带缓冲的签名证据模式下达到了每秒27193个请求的处理能力,中位延迟为141.9微秒;而在启用每条记录数据和完全同步后,吞吐量降至约242请求/秒,中位延迟升高至16.0毫秒。密封包含10万条记录的签名epoch仅需97.0毫秒。测量结果清晰展示了耐久性-延迟权衡,表明并不存在'免费'的异步审计路径。作者同时指出,该原型尚未证明模型执行过程,无法防止被攻陷的签名者分叉历史记录,也未确立法律合规性。尽管如此,这项工作为AI审计系统的证据持久化与可验证性提供了有价值的设计参考和实测数据。

💡 推荐理由: 该研究为AI系统审计提供了一种可验证的持久化证据机制,通过签名回执和Merkle链式epoch确保决策记录的完整性与可审计性,为构建可信AI基础设施提供了新的技术路径,值得安全从业者关注。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)