#secure-development

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Nicolás E. Díaz Ferreyra, Manish Mahesh Kumar, Nohemí Villarreal, Pankaj Pantel, Immo Brueggemann, Riccardo Scandariato

本文针对生成式人工智能(GenAI)日益融入软件系统后,传统威胁建模方法(如 STRIDE)在评估 GenAI 特有风险方面的不足,开展了一项面向中小企业(SME)的探索性评估研究。研究首先通过快速文献综述筛选出三种 GenAI 感知的威胁建模技术,然后将其系统地应用于一个包含 GenAI 增强组件的工业案例研究。结果表明,不同技术识别出的威胁集合存在显著差异,且现有方法对某些 GenAI 特定风险类别的支持有限,尤其是与软件供应链和以人为中心的安全问题(如提示注入、模型窃取、过度依赖、隐私泄露等)相关的风险。此外,研究还收集了从业人员对这些方法在 SME 开发流程中可用性和集成度的看法,包括感知到的努力程度和采用障碍。该工作为在资源受限的中小企业环境中实际落地 GenAI 威胁建模提供了初步经验和改进方向,强调了需要开发更轻量级、更贴合 GenAI 供应链特征的建模方法,并应在威胁模型中更系统地考虑人机交互带来的社会工程风险。

💡 推荐理由: 为蓝队和安全工程团队提供了 GenAI 威胁建模在真实中小企业环境中的适用性评估,揭示了现有方法的盲区,有助于改进针对 LLM 系统的风险识别流程。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Dimitri Kokkonis, Michaël Marcozzi, Stefano Zacchiroli

该论文针对开源软件供应链中代码级后门注入的威胁提出了一种自动化检测方法 Lily。代码级后门是一种隐蔽的代码改动,通过秘密触发器授予隐藏权限,难以被发现。此前针对广泛使用项目的后门注入尝试(如恶意提交、被篡改的发布包、受污染的第三方依赖)往往仅靠运气和人工审查才被阻止。现有持续集成(CI)流水线无法检测此类攻击,而下游二进制分析工具则需要大量人工分析。Lily 将后门检测机制集成到两个环节:一是 CI 流水线,用于在代码提交阶段阻断恶意提交;二是发布审查流程,用于防止被篡改的发布包或受损依赖进入大型生态系统(如 Linux 发行版)。Lily 有两个核心贡献:第一,它增强了兼容 CI 的模糊测试(fuzzing),能够基于历史和当前软件执行来检测可疑行为的触发器,从而在 CI 和更新验证流程中实现快速且精确的后门检测;第二,它将代码变更分析与模糊测试数据相结合,即使发布更新涉及数百万行代码改动,也能精确地将维护者定位到暴露后门的代码区域。论文还概述了攻击者可能规避 Lily 的五种策略,并评估了相应的防御措施。作者在数百个良性提交/发布和带后门提交/发布的实验表明,Lily 能以较低的误报率实现高检测精度,可靠地识别恶意代码,抵抗对抗性尝试,并且能够阻止真实世界中的后门事件。

💡 推荐理由: 该研究直接回应了软件供应链中后门注入的严峻挑战,提出可集成到 CI 和发布流程的自动化检测方案,能够提升蓝队和开源维护者对恶意提交、篡改发布包和受损依赖的防御能力,具有实际部署价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.7)