Toward Responsible AI-Augmented Cyber Defense: Pattern Recognition, Defense-in-Depth, and the Case for Human-AI Collaboration
网络安全文献长期记录 AI 在威胁检测、事件响应与预防方面的运营收益，同时也提出过度自动化、算法偏见与分析师技能退化等定性担忧，但一直缺少一个形式化、可证伪的模型，用来连接三组反复出现的构念：纵深防御理论（Defense-in-Depth）
#human-AI-collaboration
共收录 4 条相关情报。
← 返回所有主题Concept-based Adversarial Attacks: Tricking Humans and Classifiers Alike.
这篇论文提出了一种全新的对抗样本生成方法，称为基于概念的对抗攻击。与传统的像素级扰动（例如添加不可见噪声来欺骗深度神经网络）不同，该方法通过直接修改神经网络高层中编码语义概念的激活值，将原始样本的表示向目标样本的方向移动，然后利用修改后的激
LLMs in the SOC: An Empirical Study of Human-AI Collaboration in Security Operations Centres.
本文是一篇关于安全运营中心（SOC）中人类与AI协作的实证研究。研究背景是，随着大语言模型（LLM）在安全分析工具中的快速集成，理解人类分析师如何与这些AI系统实际协作变得至关重要。然而，目前缺乏针对真实SOC环境中人机交互模式的系统性、实
Decompiling the Synergy: An Empirical Study of Human-LLM Teaming in Software Reverse Engineering.
该论文首次系统性地研究了大型语言模型（LLM）在软件逆向工程（SRE）中与人类分析师的协作效果。研究分为两部分：首先通过一项包含153名从业者的在线调查，记录了当前LLM在SRE领域的应用现状；随后设计了一项精细的人类实验，选取两个具有CT