Toward Responsible AI-Augmented Cyber Defense: Pattern Recognition, Defense-in-Depth, and the Case for Human-AI Collaboration
网络安全文献长期记录 AI 在威胁检测、事件响应与预防方面的运营收益，同时也提出过度自动化、算法偏见与分析师技能退化等定性担忧，但一直缺少一个形式化、可证伪的模型，用来连接三组反复出现的构念：纵深防御理论（Defense-in-Depth）
#cs.AI
共收录 1652 条相关情报。
← 返回所有主题Evaluating Coding Agents on Kernel Exploit Generation
该论文提出 KEX-bench，一个用于评估编码智能体（coding agents）在真实操作系统内核上生成「利用原语（exploit primitives）」能力的基准。研究动机在于：当前编码智能体已经能在生产软件中发现真实漏洞，但「发现
ZeroGate: Trust-Preserving Fast Paths for Governed AI Agent Runtimes
该论文针对 AI Agent 运行时（runtime）中「把授权前置到调度边界之前」这一常见优化思路提出质疑：把授权提前确实可以缩短 Agent 的调度边界（dispatch boundary），但授权工作本身并没有被消除，反而可能放行一个
Making Agents More Consistent: Skills Should Form Habits for Repeat Tasks
该论文关注的是「智能体在重复性任务上表现不一致」这一被长期忽视的可靠性问题。作者首先做了量化测量：选取 42 个任务、每个任务重复执行三次，结果显示根据所用模型不同，有 38% 到 74% 的重复执行返回了互相不一致的答案。作者指出，一致性
Decoding Guardrails: XAI-Guided Perturbation Analysis of Prompt Injection Detection
该论文针对 LLM 生产部署中广泛使用的分类器式护栏（以 Meta 的 Prompt Guard 2 为代表）开展了可解释性（XAI）驱动的探索性案例研究。作者指出，这类护栏被当作抵御提示注入与越狱攻击的第一道防线，但其内部决策逻辑对防御方
Reasoning Topology Matters: A Controlled Study of LLM-Based Cybersecurity Analysis
该论文针对大语言模型在网络安全分析中的推理结构问题展开研究。背景是：LLM 已被广泛用于网络安全场景，而准确的安全分析往往需要跨复杂、异构数据（如网络流量、威胁情报文本、漏洞描述）进行多步、依赖上下文的推理。现有提示词（prompting）
Trust in Edge-Enabled IoT Security: Features, Challenges and Research Directions
该论文是一篇系统性综述，聚焦边缘计算赋能物联网（Edge-Enabled IoT）环境下的信任管理（Trust Management）问题。研究背景在于：物联网为人类生活与工业生产提供了自主智能、泛在连接与易用性，而为了支撑时延敏感、资源受
Beyond Predictable Paths: Redefining AI Security Incident Reporting for Agents
本文聚焦于 AI Agent（智能体）快速落地过程中日益突出的安全事件报告问题。随着 Agent 在真实业务中被广泛部署，针对它们的 AI 特有攻击与相应安全事件不断增多，而现有的安全事件报告框架（如传统漏洞披露、CERT/CSIRT 事件
ActGov: Governing LLM Agent Actions via Policy-Constrained Validation
该论文针对 LLM 智能体在长周期、工具调用型工作流中的授权失控问题提出运行时治理框架 ActGov。研究背景是：智能体通过外部工具执行多步任务时，工具返回的不可信内容（如网页、文档、第三方 API 输出）会作为上下文回流进模型，进而影响后
Dissecting Agentic Forensics: The Role of Triage, Prompting, and Evidence Arbitration in Open-World Fake Image Detection
该论文研究开放世界(open-world)条件下的图像取证问题:篡改类型涵盖完全合成图像、局部编辑、拼接与换脸/替换等,而现有取证检测器大多只针对单一篡改族,难以覆盖真实场景。作者提出并系统剖析了一个免训练(training-free)的智
Benchmarking Neural Defend ARCAS 1B: A Foundational Multimodal Deepfake Detection Model
该论文对多模态深度伪造检测基础模型 Neural Defend ARCAS 1B 开展系统性基准评测，核心问题是：AI 生成图像技术的演进速度快于针对特定基准的检测器评测节奏，因此单一数据集上的一个分数无法完整刻画模型的泛化能力。作者在不对
Temporal Generalization and Explanation Stability of Control Flow Graph Neural Networks for Malware Detection
该论文研究的是基于控制流图（CFG）的图神经网络（GNN）恶意软件检测器在时间分布偏移下的泛化能力与可解释性稳定性。作者指出，现有工作普遍在一个单一时间窗内采集的语料上做随机划分（random split）评估，训练集与测试集来自同一时期，
From Bits to Beliefs: Recoverable Semantic Fingerprints for Black-Box Verification of Large Language Models
该论文关注开放权重大语言模型（Open-weight LLM）在发布后被复制、微调并通过黑盒 API 二次分发的场景下，原始模型所有者难以进行发布后归属验证的问题。现有黑盒指纹方案通常依赖「秘密查询—密钥对」：向可疑模型发送特定触发输入，检
Structured Decomposition for Reliable LLM-Generated Access Control Policies
该论文聚焦于一个现实痛点：自然语言描述访问控制需求易于人读，却难以直接落地为机器可执行的策略代码，而让大模型一次性生成策略往往在编译、语义与安全边界上频繁出错。作者提出并实现了一套基于 LLM 的模块化端到端管线，把自然语言访问控制策略（N
MobileCybench: Evaluating Agent Vulnerability Discovery via Executable Probes
该论文面向当前 AI 智能体大规模自动化挖掘漏洞、但其报告数量已超过维护者人工审核能力的现实困境，提出了一套「探针（probe）」驱动的漏洞报告评估框架。作者指出，智能体提交的漏洞报告往往依赖特定应用自身的安全属性（security pro
Agents That Edit Documents: Measuring Agentic PDF Forgery Against a Non-Agentic Control
该论文研究自主型 AI 智能体（agent）被用于文档造假的现实风险，并为此构建了评测基准 AgentForge-Bench。研究背景是：过去一年里，能够独立完成多步计算机任务的智能体已成为常规工具，而这种自主性对抱持恶意目的的用户同样可用
Connecting the Dots in Agentic AI Security: A Cross-Dimensional Threat Taxonomy, Evaluation Maturity, and Open Challenges
该论文聚焦 agentic AI 带来的安全边界扩张问题。传统 LLM 安全主要关注生成内容本身，而具备自主性的智能体还要维护持久状态、执行自主动作、调用外部工具，并与人类及其他智能体交互，这使得威胁面从"输出内容"延伸到"状态—动作—工具
SyzHarness: Patch-Based Kernel Bug Reproduction with LLM-Synthesized Fuzzing Harnesses
本文针对 Linux 内核漏洞自动化复现这一长期难题提出 SyzHarness 框架。内核漏洞复现是缺陷分诊、补丁验证与回归测试的关键环节，但其实现有效且高效的自动化仍十分困难。作者指出核心挑战有两点：一是复现程序必须先恢复出能够到达脆弱状
TriFleetRCA: On-Premise LLM Root Cause Analysis for Kubernetes
论文针对远程站点/边缘环境的 Kubernetes 根因分析（RCA）痛点展开研究。当前运维场景中，故障证据分散在 Pod 日志、Kubernetes 事件与集群级对象里，跨源关联耗时且依赖人工经验；同时许多企业出于合规与数据主权要求，无法
When the Agent Becomes the Kernel: A Systematization of Security on the Path to AI-Native Operating Systems
本文对"AI 原生操作系统"路径上的安全问题进行了系统化梳理（systematization）。研究背景是：大语言模型智能体已不再是单纯的文本生成器，而是被授予了高权限的主体（principal），能够直接编辑代码仓库、操作用户收件箱、完成