本文是一篇关于安全运营中心(SOC)中人类与AI协作的实证研究。研究背景是,随着大语言模型(LLM)在安全分析工具中的快速集成,理解人类分析师如何与这些AI系统实际协作变得至关重要。然而,目前缺乏针对真实SOC环境中人机交互模式的系统性、实证性探索。该研究通过设计并实施一项受控实验或实地研究,招募具备SOC工作经验的参与者,观察他们在模拟或真实的告警分析场景中与LLM辅助工具的交互行为。核心方法包括:收集参与者在分析过程中与AI的对话日志、决策记录、任务完成时间以及主观反馈问卷,并采用定量与定性相结合的分析手段,对比有/无LLM辅助时的分析效率、准确性和认知负担变化。主要贡献为:(1)首次系统性地刻画了SOC分析师在使用LLM时的协作模式,包括信任建立、信息验证、告警优先级判断等关键行为;(2)识别出LLM辅助带来的效率提升与潜在风险,例如过度依赖、提示注入攻击的暴露面增加等;(3)提出了改善人机协作界面设计和工作流集成的建议,以支持更安全的自动化决策;(4)为后续研究提供了可复用的实验范式和数据集。本文适合SOC管理人员、安全工具开发者以及人机交互(HCI)与AI安全交叉领域的研究人员阅读,能够帮助他们理解LLM在实际防御工作中的效用边界与安全含义。
💡 推荐理由: 该研究首次实证揭示SOC分析师与LLM协作的真实模式,为蓝队部署AI辅助工具提供了行为学依据,有助于识别过度自动化带来的安全盲区与提示注入等新风险。
🎯 建议动作: 研究跟进