这篇论文聚焦于大语言模型(LLM)带来的网络安全攻防不对称问题:攻击正在趋于自主执行,而防御仍高度依赖人工分析,导致攻防失衡。作者认为,这种不对称的根本原因在于攻防双方在三个层面的“进化”陷入停滞。为此,他们提出“共同进化”(co-evolution)作为核心思路,让攻击AI代理和防御AI代理通过持续的对抗性交互,安全且自主地驱动彼此能力提升。在此基础上,论文实现了系统SysEvolve,包含三个协同设计的组件:SysField构建真实的多主机网络靶场,SysSpear生成高效且安全的攻击方案,SysArmor执行实时、可解释的防御响应。三者形成一个自驱动的对抗循环,在攻击与防御相互作用中促进双方能力迭代。实验结果表明:SysField在2.1%的开销下实现零损失数据采集,并将257个CVE编排为1148个靶场场景;SysSpear相比基线LLM将攻击成功率提升了超过25%;SysArmor的检测精度比已有系统提高10到1000倍,并已在华为和深信服的生产环境中检测到真实APT攻击。论文还揭示了LLM代理能力的三个关键发现:第一,多步任务组合和更大的网络拓扑会暴露单步评估中隐藏的能力差距;第二,瓶颈往往出现在初始访问之后的“后利用”状态利用阶段;第三,LLM代理易受环境干扰,例如在靶场中部署诱饵端点后,代理的超时次数增加三倍,且后续任务完成率下降,尽管初始访问成功率未受影响。这些发现对安全评估、防御自动化以及AI代理能力研究均有重要参考价值。
💡 推荐理由: 该研究展示了AI代理在攻防两端自动化中的实际潜力,尤其是防御侧可解释实时检测与生产环境验证,对蓝队构建智能化防御体系具有借鉴意义;同时揭示了多步评估与环境干扰对代理能力的影响,有助于安全团队改进测试方法和监控策略。
🎯 建议动作: 研究跟进