#autonomous-agent

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Praneeth Narisetty, Shiva Nagendra Babu Kore

本文提出并实现了 Mako,一个自演化代理操作系统(SE-AOS)的实例,专为自主 Web 漏洞利用而设计。该系统将利用能力视为一个可变的、版本化的内核,在运行时通过观察自身失败、合成新能力、在实时目标上验证并热加载改进来扩展自身。Mako 是 LaunchSafe 平台的核心引擎,该平台致力于构建自主安全代理以实现持续进攻性测试和代理驱动的安全研究。在公开的 XBOW 验证基准测试中,Mako 在 104 个容器化、CTF 风格的 Web 应用程序(涵盖 26 种漏洞类别、三个难度级别)上实现了全套覆盖:它成功驱动每个目标生成一个加密新鲜、每次构建唯一的标志,且验证机制防止了伪造或记忆结果。作者的核心发现是“自主利用定律”:一旦某种利用能力存在且可被发现,难度就会崩溃;能力(而非推理)才是稀缺资源。他们还提出了一个形式化架构,将该定律转化为自我改进系统。Mako 还运行一个门控的自演化循环,当性能没有倒退时,会提出、沙盒测试并提交对其自身代理和规则的改进。作者故意不公布操作结果、payload、利用链和工具源代码,因为一个将全频谱 Web 利用简化为可重复、机器速度流水线的系统是值得关注的双用途研究。他们发布科学原理,但保留武器化的细节。

💡 推荐理由: Mako 展示了 AI 代理在自主漏洞利用领域的巨大潜力,其全自动、自进化的能力将显著降低攻击门槛,对防御者意味着需要重新审视传统安全防护的有效性。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Ayan Javeed Shaikh, Nathaniel D. Bastian, Ankit Shah

该论文提出了一种面向AI驱动的安全编排、自动化和响应(SOAR)系统的自主红队框架,旨在评估此类系统对自适应对手的韧性。现有研究鲜少探索SOAR系统在面对复杂、多阶段攻击时的表现。作者将大型语言模型(LLM)与强化学习(RL)相结合,构建了一个分层架构:高层LLM规划器负责制定战略意图(如攻击目标与阶段),底层RL控制器则根据规划进行战术执行(如具体操作选择)。通过基于杀伤链进程的奖励塑形机制,该框架能够生成自适应、多阶段的攻击行动,以测试企业网络中的自主防御代理。作者在保真度较高的企业网络仿真环境中进行了评估,结果表明该混合方法能够有效生成复杂攻击,而纯LLM架构则难以维持多阶段攻击,且专门面向网络安全的领域模型仅能达到有限的攻击效果。研究证实,单纯依赖LLM或领域模型均不足以进行有效的红队评估,混合LLM-RL方法更具优势。该工作为AI驱动的安全系统评估提供了新思路,适合红队研究人员、SOAR系统开发者及安全评估工程师关注。

💡 推荐理由: 该研究首次结合LLM与强化学习进行自适应红队测试,揭示了当前AI驱动SOAR系统在面对多阶段、自适应攻击时的薄弱环节,为防御者改进系统韧性提供了关键方向。

🎯 建议动作: 研究跟进,评估该框架是否可适配到自身SOAR系统的红队测试中

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)