NetInjectBench: Benchmarking Indirect Prompt Injection in Tool-Using Large Language Model Agents for Network Operations
该论文提出NetInjectBench,一个专门用于评估网络运营工具型大语言模型(LLM)智能体对间接提示注入攻击鲁棒性的基准测试。研究背景是:在网络运营中,LLM智能体通过解析工单、告警、日志、运行手册和ChatOps消息来执行工具调用,
今日共收录 1138 条安全情报,包含 379 个 CVE,396 篇安全通告,以及 80 篇研究论文。
← 返回归档列表该论文提出NetInjectBench,一个专门用于评估网络运营工具型大语言模型(LLM)智能体对间接提示注入攻击鲁棒性的基准测试。研究背景是:在网络运营中,LLM智能体通过解析工单、告警、日志、运行手册和ChatOps消息来执行工具调用,
本文系统梳理了大型语言模型(LLM)在错误信息生态系统中的三重角色:作为攻击者、防御者以及验证系统的脆弱组件。作者提出一个统一的“角色-层次”框架,其中角色维度定义LLM的三种身份,层次维度涵盖内容、社会背景、证据环境和验证工作流四个层面。
本文研究了蜂窝核心网络(CN)中的隐式信任错误(iTrue)问题。核心网络是通信基础设施的关键组成部分,其传统安全模型依赖于物理隔离:核心组件之间的接口通常运行在假设的信任区域内。随着核心网络向云原生部署转型,这种假设逐渐弱化,攻击面扩大,
随着大型语言模型(LLM)的快速发展,文本水印技术成为识别机器生成内容的关键手段。然而,直接将现有的基于logits的水印方法应用于代码生成面临挑战:代码的低熵特性加剧了代码质量与水印可检测性之间的权衡。本文提出了一种名为语法驱动水印(GD
该论文提出了名为 Minionese 的多语言大模型安全基准测试,旨在系统评估和解释大语言模型在多语言环境下的安全对齐失败问题。研究覆盖18种语言,按资源充足程度分为4个层级(从高资源到极低资源),并设计了4种攻击类型:标准翻译、代码切换(
本文是一篇关于大语言模型(LLM)水印技术的系统性综述,从理论和部署两个维度对现有研究进行了全面梳理。随着LLM在多个高影响力场景中的广泛应用,其生成的流畅文本带来了来源模糊、模型滥用和大规模内容洗稿等风险。LLM水印通过向模型输出中嵌入不
该研究通过大规模问卷调查(N=4100)和定性访谈(N=12),评估了美国成年人面对AI驱动的语音钓鱼攻击的脆弱性。研究人员利用先进的语音模型(包括Llama Full Duplex、Sesame、Gemini、OAI AVM、Play.A
该论文提出了一种名为 VEXAIoT 的自主多智能体框架,用于物联网环境中的漏洞发现与利用。IoT 系统因硬件受限、固件过时及默认配置不安全而固有脆弱,亟需可扩展的自适应安全测试方法。尽管最近的大语言模型(LLM)智能体在渗透测试和CTF挑
该论文提出了一种基于LLM的自动化攻击调查系统SherAgent,旨在解决实际企业安全运营中心(SOC)中基于溯源图的攻击调查面临的依赖爆炸和因果链碎片化问题。通过与服务数亿用户的互联网公司SOC合作,作者分析了现有LLM驱动的调查工作流(
该论文研究将电信/IoT欺诈控制重新定义为区块链链接的可审计决策管理问题。传统欺诈控制研究通常止步于检测器级别的分类,而实际部署需要请求级别的策略决策、生命周期可追溯性和可审计性。论文提出一个框架,将每个合成部署记录映射为受管理请求,通过确
### Summary `SignedDataVerifier` attempts to perform online revocation checking when `enable_online_checks=True`, but it
## Circular JSON Schema `$ref` causes unbounded CPU DoS in `json_repair` ### Summary `SchemaRepairer.resolve_schema()`
### Details A number of the functions in PilotManager pass parameters directly through to the database layer, which then
CVE-2022-0847
[原创]CVE-2022-0847 Dirty Pipe 漏洞原理深度分析 近年来最"干净"的内核提权漏洞之一
CVE-2026-42530
Nginx远程代码执行漏洞分析与利用(CVE-2026-42530)
CVE-2026-48939
The U.S. Cybersecurity and Infrastructure Security Agency (CISA) has added two maximum-severity security flaws impacting
本文研究针对可穿戴设备(如AI智能眼镜)上视觉语言模型(VLM)的物理提示注入攻击。随着VLM被部署到智能眼镜等可穿戴设备上,它们能够感知物理环境并进行多模态AI辅助决策。然而,物理环境中嵌入的恶意文本信息可能通过视觉通道实现间接提示注入,
本文研究数字孪生(DT)环境下的新型隐蔽性磨损攻击。数字孪生作为工业4.0的关键使能技术,通过实时监控、仿真和精准控制,显著扩展了工业系统的攻击面。作者提出利用深度强化学习(DRL)的对手模型,能够隐蔽地操纵控制信号,在规避先进异常检测系统
该论文提出了一种名为“间接数据投毒”的新型攻击方法,用于在科学研究中利用AI系统自动化地制造科学欺诈。攻击者通过污染公开数据集并上传含有误导性元数据的毒化版本到公共仓库,自主研究代理(如基于大型语言模型的代码助手)在检索和处理数据时,会无意
本文是一篇关于脑机接口(BCI)安全威胁与防御方法的综述。BCI技术涵盖多种硬件、软件和连接设备,广泛应用于神经外科、生物医学数据分析、神经成像等领域。近年来,BCI技术快速发展,首个设备已通过临床试验,消费级硬件开始进入市场,且各类医疗与