#persistent-memory

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Tommaso Cerruti, Mika Okamoto, Ansel Kaplan Erol

这篇论文研究长效 LLM 代理(Long-running LLM agents)中持久内存(persistent memory)的授权状态管理问题。持久内存用于跨交互保存状态,包括权限、限制和撤销记录。作者发现,当内存错误表达不断演变的授权状态时,代理自身的记录可能会授予其历史操作中从未认可的权限,从而导致行为失准,且无需任何外部攻击。他们把这种现象称为“内生授权清洗”(Endogenous Authorization Laundering):写入内存的伪权限会随着来源(provenance)被冲刷而在下游被当作合法授权执行。为了系统化评估这一风险,他们引入了 EAL-Bench 基准,用于测量持久内存在多大程度上准确保留演变的授权状态,并验证是否错误会传播为下游未授权动作。在采购、网络安全和金融三类任务中,他们评估了 5 个 LLM 作为内存写入器、2 个作为执行器。结果显示:在增量内存更新下,写入器会对高达 50.2% 的未授权请求创建虚假权限;而一旦内存中存在虚假权限,执行器在 98.6% 的试验中都会采取相应行动。论文随后测试了两种防御机制:一是要求存储的权限必须由有效源事件(source events)支持,二是通过有界事件溯源(bounded event sourcing)跟踪权限变更。这两种方案都显著减少了授权清洗,但同时也会拒绝更多合法动作,暴露出安全性与效用之间的权衡。作者强调,持久内存不仅仅是一个性能组件,它实际上是 LLM 代理有效授权策略的一部分,必须将其纳入安全设计考量。本研究适合 LLM 应用安全研究者、代理系统开发者以及负责 AI 基础设施的安全工程师阅读,有助于理解长期运行代理的授权风险并设计相应的防护措施。

💡 推荐理由: 这项研究首次指出 LLM 代理的持久内存可成为权限绕过的新攻击面:无需外部攻击,仅靠内部状态污染就能形成虚假授权并导致未授权操作。对 SOC/蓝队而言,这意味着在审计 AI 代理时必须检查其记忆数据的完整性与来源,而不能只关注传统的外部威胁。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
推荐 3.5
Conf: 50%
👥 作者: Graeme Smith

该论文针对持久内存(Persistent Memory)这一新兴内存范式中的信息流安全(information flow security)问题展开研究。持久内存能够提升运行时效率并支持程序在断电或系统崩溃后恢复,但现有研究多聚焦于功能正确性验证,而信息流安全这一正交概念尚未得到充分探索。论文提出了一种面向无结构语言(即使用goto而非循环)的信息流逻辑,该语言模拟了简单的汇编语言。作者将该逻辑应用于x86汇编,并引入“重排序干扰自由(reordering interference freedom, rif)”的概念,以推理指令在乱序传播到内存时的潜在信息泄露。进一步地,论文展示了相同的rif概念可以用于推理持久内存上的信息流安全。实验部分(如有)未在摘要中详细说明,但该工作为持久内存系统的安全分析提供了理论基础。适合对持久内存、信息流安全、形式化方法感兴趣的研究人员阅读。

💡 推荐理由: 持久内存是未来计算架构的关键趋势,但其信息流安全分析尚属空白。该论文首次提出针对持久内存的信息流逻辑,为防御者理解新型内存模型的保密性威胁提供了形式化工具。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)