#metamorphic-testing

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Zedong Peng, Chenggang Wang, Shangyue Zhu

大型语言模型(LLM)生成的代码经常包含安全漏洞,且这些漏洞往往不是孤立的,而是跨多个关注领域同时出现,反映了软件安全中的横切性质。本文提出一个框架,将安全导向的蜕变关系(MR)与关联规则(AR)挖掘相结合,用于检测LLM生成代码中的漏洞,揭示其违反结构,并将该结构追溯到提示层面的风险因素。作者定义了覆盖主要CWE类别的九种MR,包括SQL注入、XSS、命令注入、路径遍历、硬编码凭证、弱密码学以及内存安全错误,并使用基于LLM的评判器对LLMSecEval基准测试中五个开源模型生成的3700个代码片段进行了评估。结果显示,68.8%的片段至少违反了一个MR,其中硬编码凭证(79.1%)和命令注入(74.4%)是最普遍的适用故障。AR挖掘揭示了强横切共违反模式:XSS和弱密码学共违反以82.5%置信度(提升度=3.23)预测硬编码凭证,并且存在紧密耦合的簇,连接认证、凭证处理和密码学弱点,以及输入处理和内存安全故障。随后进行的提示层面风险分析发现,与数据库和认证相关的提示是广泛横切不安全性的强预测因子,而65.5%的提示在五个模型上产生一致的违反结果。这些发现表明,不安全代码生成不仅是一组独立的缺陷,而是一个结构化的、由提示决定的现象,这促使采用簇感知验证和提示层面干预来实现更安全的LLM辅助编程。

💡 推荐理由: 该研究揭示了LLM生成代码中漏洞的横切关联性,并提供了可操作的提示层面风险分析,有助于开发者和安全工程师在设计更安全的AI编码辅助工具时采取针对性措施。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Yiteng Peng, Dongwei Xiao, Zhibo Liu, Zhenlan JI, Shuai Wang

全同态加密(FHE)允许在不解密的情况下直接对加密数据进行计算,为安全云计算、金融和医疗等隐私敏感应用提供了强大的隐私保障。然而,FHE方案的复杂性阻碍了其实际应用。为了降低开发门槛,新一代专用框架应运而生,将高级FHE程序转换为复杂的FHE操作,引入了新的编程范式。但这些框架的内在复杂性使其易受实现逻辑缺陷的影响。与简单的崩溃不同,逻辑错误可能悄无声息地破坏加密计算,导致严重的经济损失和FHE增强应用中的安全漏洞。本文提出了HERTA,首个专为FHE框架设计的自动化测试工具。HERTA利用蜕变测试(Metamorphic Testing)来揭示FHE软件栈多层级中的深层实现漏洞。为此,作者设计了一组基于FHE语义的新型蜕变关系(MRs),这些关系能够针对流水线中最具挑战性的方面进行压力测试,从而在没有人工真实标签的情况下实现自动化正确性检验。在三个领先的工业FHE框架上进行的评估中,HERTA发现了21个先前未知的错误,其中多个已被开发者确认并修复。此外,危害分析揭示了这些错误对基于FHE服务的完整性和可用性构成的严重安全影响。该研究对FHE框架的开发者、安全审计人员以及依赖FHE的应用程序设计者具有重要参考价值。

💡 推荐理由: FHE框架中的逻辑错误可能导致加密数据被静默破坏或泄露,威胁金融、医疗等高安全领域。HERTA作为首个自动化测试工具,可帮助提前发现深层漏洞,提升FHE生态的安全性。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ruixiang Qian, Ding Yang, Zengxu Chen, Yuxuan Gao, Chunrong Fang, Chao Zhang, Zhenyu Chen

本文首次研究了基于变异性(metamorphic)的模糊测试预言增强(MFOE)方法,旨在提升灰盒模糊测试的漏洞检测能力。传统的模糊驱动程序通常仅依赖崩溃预言(crash-based oracle),忽略了库函数功能的正确性验证,限制了发现非崩溃类缺陷的能力。为此,作者提出利用变异性关系(MRs)构造变异性预言,并将其集成到现有模糊驱动中。然而,手动构建和集成此类预言需要大量领域知识,难以自动化。为解决这一挑战,论文提出了MetaFOE框架,借助大型语言模型(LLM)自动生成并集成变异性预言。MetaFOE首先从目标函数接口和文档中提取信息,利用LLM生成候选MRs,然后通过静态分析和编译验证筛选出可用的MRs,再自动生成元驱动程序(meta driver)代码。实验基于OSS-Fuzz项目中的实际驱动程序,使用了三种现代LLM(GPT-4、Claude等)和五种提示策略。结果显示,MetaFOE生成了3475个MRs,其中77.3%可被应用;实现了12351个元驱动,其中6228个有效。经过三小时的模糊测试,有效元驱动平均提升了18.7%的边覆盖率,并触发了1528个独特的崩溃。该工作证明了变异性预言增强的有效性以及利用LLM自动化实现MFOE的可行性,为推进灰盒模糊测试提供了新思路。

💡 推荐理由: 该研究首次将变异性预言的自动化构造引入模糊测试,通过LLM显著降低了人工成本。提升边覆盖率和触发大量崩溃表明其实际效果,对安全测试人员改进模糊驱动、发现非崩溃类漏洞具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)