该论文聚焦于大语言模型（LLM）被引入安全运营中心（SOC）后所引入的新型攻击面。作者指出，将 LLM 用于威胁情报的聚合、解读与优先级排序虽然显著提升了分析效率，但同时也打开了间接提示注入（indirect prompt injection）的通道：攻击者可将恶意指令嵌入系统日志、告警字段等本应被视为"数据"的内容中，借助日志投毒（log poisoning）劫持 LLM 的推理逻辑，进而编排多步骤的"promptware"杀伤链，使 AI 分析代理变成攻击者的执行器。 论文将防御困境概括为一种两难：确定性规则/正则类防御计算开销低但"语义盲"，无法识别语义层面伪装的注入；纯神经网络（如另一个 LLM 做判别或裁判）的语义评估虽然更聪明，却带来不可接受的延迟以及概率性判定带来的漏报与不稳定。 为此，作者提出一种神经-符号（neurosymbolic）纵深防御架构，目标是保障 AI-SOC 流水线的端到端完整性。整体分为两层加一个闭环反馈机制：第一层是确定性预过滤，利用定制化的 SIEM 解析器（decoders）在数据摄入边缘做结构化清洗与规范化，直接中和体积型填充攻击以及基于特征签名的注入；第二层在告警进入 LLM 之前，使用 NeMo Guardrails 对已结构化的 SIEM 告警实施严格的自检式语义边界校验，从而在保留语义理解能力的同时限制模型输出空间。此外，架构集成了闭环遥测系统，把被拦截攻击的可见性直接呈现在 SOC 控制台中，实现人在环（HITL）监督。 实验部分作者按 MITRE ATLAS 分类法组织评估，针对多种提示注入场景进行测试。结果显示该协同方案能有效拆解 promptware 杀伤链，用可验证的约束约束 LLM 的随机性，并为下一代 AI-SOC 提供具备高可观测性的弹性防御机制。

本文介绍了作者团队在真实安全运营中心（SOC）中设计、开发并部署一个智能体式 AI 助手（agentic AI companion）的长期实地研究成果。SOC 每天需要处理大量工单，其中绝大多数是低关注度事件，不值得深入调查，而这类重复性劳动非常适合用基于大语言模型（LLM）的自动化来减轻负担。与传统“开发完再交付”的工具不同，该 AI 助手的设计并非始于假设，而是源于研究人员在 SOC 内部参与日常工作的过程，持续一年以上。通过田野调查（fieldwork），作者深入理解分析师的真实工作流、痛点和协作模式，从而让 AI 助手能够自然地嵌入现有研判流程。在田野调查的最后四个月，SOC 分析师被邀请正式使用该助手。作者分析了分析师的使用日志，发现在超过 90% 的情况下，AI 助手生成的输出会被分析师直接复用或部分复用到工单关闭报告中。这个结果表明，当 AI 系统真正在设计阶段就与目标用户共同演化时，它不再是“又一个工具”，而是一个能够与人类使用者协同演进、随工作负载类型变化而持续调整的系统。研究者观察到分析师会自然地塑造 AI 助手的行为，使其符合自己特定的偏好和需求；而分析师对 AI 行为调整得越多，他们对 AI 输出的信任感就越强，最终体现为生产力和工作满意度的提升。论文的核心贡献在于揭示了“在战壕中”（即实际工作现场）与用户共同设计 AI 系统的重要性，并为 SOC 中如何构建人机互信的 AI 协同工作模式提供了实证依据和可复制的方法论。适合 SOC 管理者、安全运营自动化学者、SOC 产品或工具设计人员，以及对大语言模型辅助安全研判感兴趣的从业者阅读。

本文针对安全运营中心（SOC）面临的网络安全告警疲劳问题，首次系统性地评估了基于风险告警（Risk-Based Alerting, RBA）方法的有效性。SOC 日常需要处理海量告警，其中大量为误报，导致真实攻击在有限的人力资源下难以被及时发现。RBA 此前被提出用于减少误报，并在一些企业部署中声称有效，但缺乏全面、可复现的评估，实施方式也多依赖经验。作者将 RBA 重新定义为连续的告警优先级排序问题，而非传统的二元决策（是否超过告警阈值），从而可以在所有可能的阈值下评估性能，进而模拟不同规模和告警量的 SOC。他们提炼了五种基本风险假设，将其形式化为可独立参数化的模块，并实现了新的实验套件 CATS。研究使用了八个不同的告警数据集（其中六个为作者创建或扩展），对假设组合进行了全面评估。结果表明，特定假设组合可达到显著的告警优先级排序性能（八个数据集上的 AUROC 均值为 0.92，标准差为 0.09），明显优于仅按告警严重级别排序的基线（AUROC 均值为 0.72，标准差为 0.21）。作者得出结论：RBA 能大幅减少分析师需要审核的误报数量，因而具备缓解网络安全告警疲劳的潜力。此外，RBA 可作为更复杂、资源密集型的告警分流方法（如基于大语言模型）的强基线。该研究为 SOC 告警处理提供了首个可复现的系统性评估，对设计更高效的告警管理流程具有重要参考价值。适合安全运营研究人员、SOC 工程师及告警管理工具开发者阅读。

本文是一项针对安全运营中心（SOC）分析师的定性研究，旨在理解他们对安全告警（security alarms）的视角，特别是为什么大量告警被视为误报。研究发现，高达99%的安全告警被分析师认定为误报，这一现象严重影响了安全团队的工作效率和威胁检测能力。研究采用定性方法（如访谈或调查），深入分析了分析师在告警审查过程中的认知负担、告警疲劳、工具局限性以及流程设计缺陷等因素。核心贡献在于揭示误报率居高不下的根本原因不仅是技术层面的检测规则不精确，还包括组织流程、告警呈现方式、分析师经验与直觉、以及跨团队沟通等多方面因素。该研究为安全告警系统的改进提供了以人为中心的设计建议，强调需从分析师的实际工作情境出发优化告警管理。适合安全运营管理者、告警系统设计者、以及威胁检测研究人员阅读。

本文是一篇关于可解释人工智能（XAI）在工业网络安全中应用的综述性论文。随着工业基础设施的日益数字化以及信息技术（IT）与运营技术（OT）的融合，工业系统的网络攻击面显著扩大。为应对日益复杂的网络威胁，人工智能（AI）和机器学习（ML）技术越来越多地被部署在工业网络安全运营中，尤其是在安全运营中心（SOC）内。这些方法虽能改进异常检测、威胁分析和自动化响应，但其决策过程的不透明性给运营信任、法规遵从和事件响应带来了挑战。可解释人工智能（XAI）作为提升AI驱动网络安全系统及决策透明度和可解释性的范式应运而生。本文聚焦于工业SOC环境和安全运营工作流程，对工业网络安全中的XAI技术进行了全面综述。文章首先审视了AI在工业SOC工作流程中的角色、工业环境中利用的运营数据类型，以及基于AI的威胁检测的优点和局限性；随后综述了主要XAI方法族，包括特征归因方法、代理模型、基于规则的说明和可视化技术，并分析了其在工业用例中的适用性；进一步讨论了将工业系统区别于传统IT环境的运营、法规和安全要求；深入剖析了关键挑战，如标记数据集有限、模型可靠性、可解释性与性能之间的权衡，以及将XAI工具集成到SOC工作流程中的难题。最后，作者指出了开放的研究方向，为开发可信赖、运营可行且面向特定领域的工业环境XAI网络安全解决方案提供了机遇。

本文是一篇关于安全运营中心（SOC）中人类与AI协作的实证研究。研究背景是，随着大语言模型（LLM）在安全分析工具中的快速集成，理解人类分析师如何与这些AI系统实际协作变得至关重要。然而，目前缺乏针对真实SOC环境中人机交互模式的系统性、实证性探索。该研究通过设计并实施一项受控实验或实地研究，招募具备SOC工作经验的参与者，观察他们在模拟或真实的告警分析场景中与LLM辅助工具的交互行为。核心方法包括：收集参与者在分析过程中与AI的对话日志、决策记录、任务完成时间以及主观反馈问卷，并采用定量与定性相结合的分析手段，对比有/无LLM辅助时的分析效率、准确性和认知负担变化。主要贡献为：（1）首次系统性地刻画了SOC分析师在使用LLM时的协作模式，包括信任建立、信息验证、告警优先级判断等关键行为；（2）识别出LLM辅助带来的效率提升与潜在风险，例如过度依赖、提示注入攻击的暴露面增加等；（3）提出了改善人机协作界面设计和工作流集成的建议，以支持更安全的自动化决策；（4）为后续研究提供了可复用的实验范式和数据集。本文适合SOC管理人员、安全工具开发者以及人机交互（HCI）与AI安全交叉领域的研究人员阅读，能够帮助他们理解LLM在实际防御工作中的效用边界与安全含义。

本文系统研究了硬件黑客竞赛在复杂片上系统（SoC）安全验证中的应用。随着SoC设计复杂度不断提升，传统验证方法难以覆盖所有安全漏洞，硬件黑客竞赛成为一种实用化的安全评估平台，能够促进安全意识验证和工具开发。作者提出了一种多策略漏洞分析方法，结合了基于仿真的验证、形式验证、lint分析、大型语言模型（LLM）辅助的bug检测和覆盖引导的混合模糊测试。通过在实际竞赛中分析代表性漏洞发现，文章展示了不同技术如何互补地揭示安全缺陷类别，例如仿真适合动态行为验证，形式验证能穷举状态空间，lint可快速定位编码规范问题，LLM辅助可发现逻辑疏忽，混合模糊测试则能深入探索边界条件。文章还从这些实践中提炼出对硅前安全验证的实用经验，指出单一方法存在局限性，综合使用多种策略是提高漏洞覆盖率的关键。最后，作者讨论了如何将比赛基准用于新兴硬件安全技术的可复现评估，并指导未来的安全感知EDA（电子设计自动化）研究。该研究为硬件安全验证社区提供了系统化的方法论参考，适合硬件安全研究人员、EDA工具开发者和SoC设计验证工程师阅读。

该论文研究检索增强生成（RAG）在安全运营中心（SOC）分析师面向上机助手（copilot）场景中的安全漏洞。作者发现并定义了一类名为 COMA（Compositional Misleading Attack）的攻击：即使每个检索到的文档都真实、无指令注入、无矛盾，且分布上看似良性，攻击者仍可通过多个文档的“组合”效应误导模型对漏洞的评估与修复建议。COMA 包含两种具体实现：action-corruption 将已正确诊断的漏洞引导至有缺陷的修复方案；verdict-flip 通过不可判定的可达性链扰动可利用性结论。实验表明，在合成数据集及真实 CVE（CVE-2021-33813）上，action-corruption 对所有五个测试模型（包括前沿推理模型）均能成功；verdict-flip 的成攻率随模型能力增强而下降，但从未完全消失。论文提出核心原理：攻击成功的关键在于消歧事实必须被模型“推断”而非直接“读取”。针对该问题，作者提出 Causal Counterfactual Defense（CCD）审计框架，逐一衡量每个检索文档的留一法因果影响，并标记影响力集中于低信任文档的答案。在四个良性多文档对照测试中，CCD 能精确定位攻击者控制的文档且无误报；对于自适应扩散影响力的攻击者，聚合变体仍可检测。作者公开了攻击种子与 CCD 参考实现，为安全 RAG 系统提供可复现的评估与防御基线。本文适合 LLM/RAG 安全研究者、SOC 自动化工具开发者及红蓝队成员阅读。

本文针对大型语言模型（LLM）在安全运营中心（SOC）实际工作流中的适用性问题，开展了一项实证研究。研究背景是SOC分析师需要处理海量安全事件，并在时间压力下准确检测和评估网络攻击；虽然LLM在安全运营方面展现出潜在价值，但其现实应用效果与落地条件仍缺乏深入理解。作者通过对25名具有LLM使用经验的SOC从业者进行半结构化访谈，并结合交互式场景设计，系统梳理了LLM集成到SOC工作流中的挑战与机遇。研究识别出15个LLM用例，归纳为六大功能类别。结果显示：从业者认可LLM在报告自动化等重复性、低级别任务中的价值，但认为其在事件分析等高影响任务上尚不可行，主要受限于技术深度不足、上下文感知能力弱以及缺少组织特定知识。值得注意的是，受访者认为这些限制更多源于SOC自身准备度不足以及人类过度依赖等因素，而非模型本身。尽管存在顾虑，从业者仍表现出强烈的采纳意愿，并描述了竞争压力导致选择有限的现象。本文贡献在于提供了跨SOC角色和组织的、基于从业者视角的LLM使用实证分析，并针对以人为中心、操作安全的LLM辅助安全运营提出了具体的设计与集成要求。适合SOC管理者、安全分析师、安全工具设计者以及关注AI辅助安全运营的研究人员阅读，以了解一线实践的真实需求与落地障碍。

本研究提出了一种基于二进制 Ring Learning With Errors (RLWE) 同态加密算法的逻辑锁定方案，并将其集成到 RISC-V 系统级芯片 (SoC) 设计中。传统逻辑锁定方法需要向用户提供原始锁定参数，容易暴露敏感信息；而本文提出的方法在特权切换过程中保护关键逻辑路径，同时避免泄露这些敏感参数。具体实现中，锁定模块消耗了 3519 个查找表 (LUT) 和 2645 个寄存器，与基线系统相比，整体开销分别为 LUT 增加 6.0%、寄存器增加 6.9%。解锁过程耗时约 2.6 微秒，带来适度的性能影响，主要影响系统级操作，而用户级计算效率基本不受影响。该研究的主要贡献在于将同态加密与逻辑锁定相结合，为 SoC 硬件安全提供了一种新的防护思路，特别适用于防止知识产权盗用和硬件木马插入等场景。适合对硬件安全、同态加密应用以及 RISC-V 架构安全感兴趣的 researchers 和硬件安全工程师阅读。

本文聚焦安全运营中心（SOC）中普遍存在的告警疲劳问题：每日产生的检测告警数量远超分析师可处理范围。以往研究通常直接提示或微调大语言模型（LLM）输出三分类标签（良性/恶意/待查），但未训练模型对检测是否构成真实威胁进行推理。作者提出一种基于思维链（Chain-of-Thought, CoT）推理的告警分类器，在真实人工标注的Windows端点检测数据上进行训练。训练流程结合了自动提示优化、自训练以及使用可验证奖励的强化学习，使模型能够生成推理轨迹并据此给出分类结论。实验发现，CoT推理虽然提升了分类性能，但会降低用于自动分类的标签token概率，导致置信度估计不可靠。为此，作者额外训练了一个校准器，该校准器读取完整推理轨迹并估计分类结论为正确的概率。最终系统在测试集上达到82.6%的准确率；在高置信度工作点（该系统用于自动化分类的运行区间）下，相比直接输出标签的LLM分类器，良性样本召回率提升43.0%，恶意样本召回率提升18.3%。研究还证明，未经训练的置信度评估会使高置信度召回率降为零，说明训练专门的校准器是不可或缺的环节。此外，经过微调的30B参数模型显著优于前沿的通用大模型（如GPT-4级别），表明针对特定任务的目标训练比单纯增大模型规模更有效。本文的核心贡献在于提出了一套结合CoT推理与概率校准的告警分类框架，为缓解SOC告警疲劳提供了新思路。

本文针对安全运营中心（SOC）依赖异常检测系统标记可疑事件时，传统基于特征的解释难以满足实际调查需求的问题，提出了一种以事件为中心、与检测器无关的网络安全告警解释方法。作者指出，分析人员不仅需要知道某个特征偏离了正常范围，更需了解告警涉及的实体之间的上下文关系，并获得可操作的理解。为此，他们设计了一个名为（EC）2的多智能体框架，该框架通过结构化、假设驱动的调查流程，为小型和中型企业网络中的安全告警生成基于可验证证据的解释。该框架将调查过程分解为多个智能体协作任务，每个智能体负责收集特定类型的证据并验证假设，最终整合出一份操作上有意义的解释报告。实验评估表明，该框架能显著提升告警后分析的效率，生成的事件解释不仅比传统特征级解释更符合运营人员的理解需求，还能提高后续事件分类的准确性。本文的主要贡献包括：提出事件中心的可解释性范式、设计多智能体协作调查架构、并在真实或模拟企业网络数据上验证了其有效性。适合安全运营分析师、SOAR平台开发者及可解释AI（XAI）在安全领域的研究者阅读。

大型安全运营中心（SOC）每天需要处理数百个活跃安全事件，分析师在长且不断变化的队列中必须快速决定哪些事件应优先处理。传统的排序方法通常按到达时间、粗略严重等级或特定产品的启发式规则排序，导致相对优先级不明确。本文提出自适应事件优先级排序（Adaptive Incident Prioritization, AIP）算法，即微软 Defender 队列助手的核心排序算法，持续对安全事件进行优先级排序以供分析师调查。AIP 将 BM25 排序思想适配到无查询、多租户的队列场景中：将每个事件表示为从告警和元数据中提取的归一化安全组件集合，模型结合了饱和的局部组件频率、跨租户估计的全局组件稀有度、有界领域先验乘数以及组件级解释。AIP 部署在数万客户环境中，实现近实时推理，中位延迟5秒刷新事件分数。在涵盖1000个客户组织的专家评审评估中，AIP 达到92.8% 的 Precision@10。在覆盖473,000个组织日队列的发布后遥测中，相比严重等级排序，AIP 使告警详情交互增加5.8%，告警详情查看事件增加17.5%，表明模型排序队列集中了分析师关注度。此外，论文扩展了微软 GUIDE 数据集，增加了首个针对 SOC 队列优先级排序的公共标签资源，涵盖499个组织队列和9980个带有专家优先级标签的事件，使研究社区能够开发、比较和推进事件优先级排序方法。本文适合 SOC 分析师、安全运营负责人、事件响应系统研究人员以及关注 AI 辅助安全运营的从业者阅读。

该论文研究了大型语言模型（LLM）在安全运营中心（SOC）日志分析任务中的安全漏洞。作者指出，LLM 在分析网络日志时，会将日志内容作为自然语言上下文处理，这引入了一种关键威胁：攻击者可以在日志生成字段中嵌入提示注入载荷，这些载荷持久化存储在日志中，当分析师查询 LLM 时被执行，作者称之为被动提示注入。为系统评估这类威胁，作者提出了 LogInject 框架，并构建了包含 12,847 条日志条目（含 2,569 条对抗样本）的基准数据集 LogInject-1.0。在四种攻击目标（活动隐藏、误报生成、信息窃取、输出劫持）下，评估了三款商用 LLM，基线条件下攻击成功率最高达 88.2%（平均 83.4%）。此外，作者提出了一种新技术 Context Stitching，将载荷碎片化分布在多条日志条目中以绕过无状态过滤器，同时利用 LLM 的长上下文推理能力，成功率达 76.4%。防御方面，作者评估了结合输入过滤、提示加固和输出验证的分层防御，攻击降低率达 90.4%，但仍存在 8.4% 的残留脆弱性。实验表明，基于 LLM 的日志分析存在固有的混淆代理漏洞，不可信数据与可信指令难以区分，需要深度防御架构和持续人工监督。该研究适合 SOC 安全工程师、AI 安全研究人员阅读。

本文提出了一种将生产环境安全信息与事件管理（SIEM）数据转化为可复用网络安全工件的方法论。研究背景是：安全运营中心（SOC）的生产遥测数据是最真实的，但由于隐私和机密性限制，原始日志无法公开，导致安全研究长期依赖合成数据集或过时数据，缺乏现实性。作者来自金融行业SOC和学术机构，他们设计了一个流程：从生产金融SOC中提取SIEM数据，通过匿名化、结构化处理，并严格验证，在声明隐私边界的前提下保留任务相关的调查结构。核心方法包括保持时间顺序和实体一致性，以支持MITRE ATT&CK映射的挑战（HIKARI数据集中的37个挑战）。作者通过两个消费场景评估工件：作为训练材料时，匿名化必须精确保留时间顺序和实体一致性，否则训练效果显著下降；作为测量基座时，在200个SOCpilot事件中，确定性验证器检测到大型语言模型（LLM）的合规动作，而这些动作在人类基线中不存在，揭示了隐私-效用权衡。论文的主要贡献是给出了一个可度量的隐私-效用边界，而非形式化的匿名性声明。本文适合安全研究人员、SOC运营者以及数据隐私工程师阅读，提供了一个从原始生产数据到共享研究数据的可行转换范例。

该论文研究了COVID-19疫情背景下远程办公（Work-From-Home, WFH）对安全运营中心（SOC）端点安全管理的影响。研究采用轨迹分析方法，追踪了疫情期间SOC在人员配置、技术工具、流程策略等方面的演变。作者通过访谈和案例研究，揭示了SOC面临的挑战，如端点可见性下降、安全事件响应延迟、以及员工心理压力增加。论文提出了一个适应性框架，帮助SOC在突发公共卫生事件中维持端点安全态势，并强调了自动化监控和远程协作工具的重要性。主要贡献在于系统性地记录了SOC在危机中的适应过程，为未来类似场景提供了经验教训。适合安全运营团队和管理者阅读。

通过与真实SOC合作开展实地研究，发现分析师在警报分类中正确决策率达83%，但仅有39%能正确解释其决策依据，表明需要决策支持系统帮助分析师理解和阐述理由。