#memory-driven

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Shenyuan Guan, Qiaodan Hou, Yanjun Chen, Xincheng Wen, Jia Feng, Keke Lian, Cuiyun Gao

本文关注静态应用安全测试(SAST)工具的高误报率问题。SAST工具在现代安全软件开发中不可或缺,但生成的误报(FP)告警会带来大量人工审查成本,并降低开发者信任。现有误报缓解方法面临两大挑战:一是不同SAST工具与漏洞类别间差异大,难以学习历史误报中的复用模式;二是所用知识大多静态,无法随新验证案例积累而更新。为此,作者提出Memoir,一种记忆驱动的误报识别框架,将历史误报告警转化为可复用的语义记忆。Memoir包含两个核心模块:其一,历史语义记忆构建模块,通过LLM引导的标注、模式聚类和记忆合成,将历史FP告警结构化,提取可复用的行为模式;其二,记忆驱动识别与演化模块,在预测前检索相关记忆,并针对分类一致性和安全不变式进行语义验证,然后将已验证的预测回添至记忆库,使知识库随案例积累持续演化。实验在CWE-Bench-Java基准上进行,Memoir取得了99.43%的F1分数、98.88%的召回率以及100%的精确率,一致优于其他基线。此外,在顶尖IT公司生产软件系统上的工业案例研究表明,学习到的记忆库无需重新训练即可有效泛化至不同SAST工具。对于安全工程实践而言,Memoir提供了一条利用大语言模型与记忆演化机制降低SAST误报的可行路径。

💡 推荐理由: SAST误报长期消耗安全与研发团队大量人力,降低工具可信度。Memoir通过LLM驱动记忆构造与演化,显著提升误报识别精度,有助于减少人工排查成本,值得DevSecOps与SAST工具链维护者关注。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Junke Zhang, Jianwei Wang, Sishuo Chen, Yizhang He, Qingshuai Feng, Zhengyi Yang

该论文提出了一种名为MemoAttack的黑盒越狱攻击框架,旨在自动化生成对大型语言模型(LLM)的有效对抗性提示。现有黑盒越狱方法要么依赖样本级启发式搜索,要么通过积累策略池或方法库来利用攻击经验,但缺乏对攻击经验的系统组织和管理。MemoAttack通过三个关键设计解决这一问题:(1)技能结构化记忆建模,将积累的攻击经验抽象为可复用的技能结构化攻击记忆,每个记忆单元将攻击技能与模板、证据和生命周期状态配对;(2)生命周期驱动的记忆演化,通过基于证据的试用、晋升、退休、重新激活、淘汰和存储清理来演化记忆;(3)探索-利用平衡的记忆选择,通过上下文汤普森采样在可靠记忆复用与不确定性驱动的探索之间取得平衡。在AdvBench上的实验表明,MemoAttack实现了98.00%的平均攻击成功率,比最强基线高出16.67个百分点,同时将请求数量减少了45.9%。此外,随着更多样本的记忆积累,MemoAttack的性能持续提升。该研究揭示了攻击经验的有效组织可显著提升越狱攻击的效率与效果,对LLM安全评估具有重要警示意义。

💡 推荐理由: 该工作展示了通过结构化记忆管理可以大幅提升黑盒越狱攻击的成功率(98%)并降低请求成本,揭示了当前LLM安全防御面临的系统性风险,安全团队需关注此类攻击演进趋势。

🎯 建议动作: 研究跟进,评估自身LLM服务对该类攻击的鲁棒性,并关注后续防御方案。

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)