#genetic-algorithm

共收录 4 条相关安全情报。

← 返回所有主题
👥 作者: Efrat Levenberg, Kristina Sviazhina, Ayelet Butman, Pierre Parrend, Harel Berger

该论文提出了一种新型勒索软件生成范式,将勒索软件的执行过程建模为基于搜索的软件工程(SBSE)优化问题,并利用遗传算法(GA)在保持系统活动统计偏差低于硬约束的前提下,优化数据加密策略。传统勒索软件通常依赖大规模加密操作,容易被现代防御系统立即检测;而该工作针对现代威胁中存在的“持久性缺口”——攻击者希望在被发现前维持数小时而非数分钟的隐蔽性——通过进化算法生成低熵攻击模式,使其能够规避基于指纹识别的行为监控。实验表明,进化出的攻击模式可以有效绕过行为监控器。论文的核心贡献在于展示搜索式方法能够为生成规避型恶意软件提供强大框架,并揭示自动化软件防御面临的新兴挑战。本文适合安全研究人员、恶意软件分析人员以及关注对抗性机器学习和自动化防御的从业者阅读。由于仅基于摘要,具体方法细节和实验数据未完全呈现。

💡 推荐理由: 该研究展示遗传算法可生成低熵且能规避行为检测的勒索软件变种,提示蓝队需警惕非传统优化驱动的攻击手法,并重新评估现有行为监控的有效性。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Aman Anifer, Vignesh Kumar Kembu, Vishnu M, Antonino Nocera, Vinod P., Amal Murali PK, Akshay S Rajan

大型语言模型(LLM)在AI驱动的信息技术生态中扮演核心角色。为降低有害或违规输出风险,商业系统采用先进的对齐策略和多层内容审核机制。然而,研究表明LLM仍易受对抗性操纵,尤其是越狱和提示注入攻击。本文提出GAS-Leak-LLM,一种基于遗传算法的新型越狱攻击方法,通过系统演化对抗性后缀来绕过安全约束。该方法在严格黑盒设置下运行,无需访问模型参数或内部结构,反映了部署系统中的真实威胁场景。通过迭代应用选择、变异和交叉启发式策略,该方法系统性地探索离散提示空间,识别高适应度的对抗性后缀。实验结果表明现有安全机制存在严重缺陷,并证实了所提攻击的有效性和实际可行性。本文揭示了LLM安全对齐的脆弱性,为防御方理解黑盒越狱攻击原理提供了参考。

💡 推荐理由: 展示了黑盒环境下基于遗传算法的LLM越狱攻击,暴露现有安全机制不足,对AI安全防御具有警示意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ahmad Tashfeen, Qi Cheng

该论文针对后量子密码学中核心的最近向量问题(SVP),提出了一种基于领域知识指导的进化筛选方法。传统密码学依赖的整数分解和离散对数问题在量子计算机面前脆弱,而SVP是量子安全密码学的基石。作者将Ajtai等人提出的筛法视为遗传算法(GA),并通过引入领域信息的SVP表示和交叉操作对其进行增强,同时将应用自然扩展到模块格。具体地,他们设计了一种更贴合格结构的编码方式,使得遗传算法中的个体能更好地反映问题特性;并通过领域知识引导的交叉算子,加速高质量解的搜索。实验表明,该方法在多个标准格实例上显著提升了求解效率,改进了Laarhoven之前的遗传算法框架。该研究属于后量子密码分析领域的理论方法创新,为评估格基密码的安全性提供了更高效的算法工具。

💡 推荐理由: 该研究改进了后量子密码学核心难题SVP的求解算法,有助于评估格基密码体制的真实安全强度,为密码学家和安全工程师提供更精准的参数选择依据。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Shuqiang Wang, Wei Cao, Jiaqi Weng, Jialing Tao, Licheng Pan, Hui Xue, Zhixuan Chu

本文研究大型推理模型(LRMs)在面对逻辑不一致或不完整输入时,倾向于产生过长且冗余的推理轨迹,即“过度思考”现象,这会导致推理延迟和能耗显著增加,构成潜在的拒绝服务(DoS)攻击向量。作者提出一种自动化黑盒框架,通过层次遗传算法(HGA)系统性地扰动输入问题的逻辑结构,以诱导LRMs过度思考。该算法在结构化问题分解上运行,并优化复合适应度函数,旨在最大化响应长度和反思性过度思考标记。在四个最先进的推理模型上,该方法在MATH基准测试中实现了高达26.1倍的输出长度增加,持续优于良性基线和手动构造的缺失前提基线。此外,攻击输入具有良好的可迁移性,使用小型代理模型进化的对抗输入对大型商业LRMs仍然高度有效。研究结果强调了过度思考是现代推理系统中一个共享且可利用的漏洞,亟需更强健的防御措施。适合安全研究人员、AI系统开发者及关注LLM安全性的从业者阅读。

💡 推荐理由: 揭示LRMs在逻辑矛盾输入下产生过度思考的漏洞,可被黑盒利用导致计算资源耗尽,对依赖LLM推理的应用构成实际威胁。

🎯 建议动作: 研究跟进:评估自身LRM部署对此类攻击的敏感性,并纳入风险评估流程。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)