Understanding and Mitigating Prompt Leaking Attacks in Real-World LLM-Based Applications
该论文系统性地研究了基于大语言模型(LLM)的应用中系统提示(system prompt)泄露问题。系统提示编码了核心逻辑和开发者定义的约束,是重要的知识产权,但易受提示泄露攻击。作者在六个主流商业平台上测量了1200个应用,发现超过80%
今日共收录 996 条安全情报,包含 203 个 CVE,413 篇安全通告,以及 100 篇研究论文。
← 返回归档列表该论文系统性地研究了基于大语言模型(LLM)的应用中系统提示(system prompt)泄露问题。系统提示编码了核心逻辑和开发者定义的约束,是重要的知识产权,但易受提示泄露攻击。作者在六个主流商业平台上测量了1200个应用,发现超过80%
本文针对企业环境中多个高级持续性威胁(APT)活动同时发生、导致审计日志中来自不同攻击者的技术序列随时间交织的问题,形式化了一个未知K交织序列分离(UKISD)问题:从交织的技术序列中恢复多个潜在攻击活动,同时推断其数量和每个活动的技术分配
本文提出了一种基于代理(agent)的漏洞检测新范式,名为 Code-Augur。当前,由自主 LLM 代理完成的代码审计已能发现数字社会基础软件中的关键漏洞,但这些代理的推理过程不透明且未经验证,导致误报和漏报。Code-Augur 采用
该论文针对控制器局域网(CAN)总线面临的安全威胁提出了一种新型入侵检测系统MIDS。CAN总线是现代车辆中电子控制单元(ECU)的主要通信协议,但缺乏加密和认证机制,容易遭受多种攻击。现有入侵检测系统大多针对制造型攻击(如DoS、模糊测试
本文针对工具增强型LLM智能体面临的间接提示注入攻击,分析了风险感知因果门控(RACG)防御机制的信任假设。RACG通过将危险工具从智能体的可见动作空间中移除来提供结构保证,但论文指出,这一保证将信任转移到工具合约(声明前置条件、效果、风险
本文提出了一种轻量级的检测时间模块——签名过滤(signature filtering),旨在提升大型语言模型(LLM)输出中统计水印的检测性能。现有的水印检测器在水印信号弱、文本重复或水印被编辑时往往表现不佳。签名过滤不修改水印嵌入和文本
该论文研究了如何利用大语言模型(LLM)辅助二进制协议实现的一致性测试,以PKCS#1 v1.5签名验证标准为例。PKCS#1 v1.5是一种广泛部署的TLV编码标准,其实现需要同时满足结构和语义约束。传统随机测试和简单变异难以探索协议的有
本文针对第三方共享加速器基础设施上部署大型基础模型面临的模型窃取风险,提出了一种纯软件的内存混淆框架CloakLM。在现有服务部署中,模型提供者控制虚拟机或裸金属服务栈,但无法控制底层硬件(如主机到GPU互连、加速器结构、相邻基础设施组件)
本文提出 SafeClawBench,一个专门用于评估工具使用型大语言模型(LLM)代理安全性的分阶段基准测试。现有安全评估通常将所有失败模式合并为一个攻击成功率指标,难以区分模型仅是同意了攻击者意图,还是实际产生了可观察的损害。SafeC
该论文聚焦于基于大语言模型(LLM)的Agent技能系统的安全扫描盲区。现有技能扫描器主要分析文本描述、manifest和源代码,忽略了视觉内容可能携带恶意指令的风险。为此,作者提出了一种名为SkillCamo的多模态隐藏指令攻击方法:攻击
该论文对 Anthropic 开发的两个前沿大语言模型(Fable 5 和 Opus 4.8)进行了系统性的红队测试,评估其对抗自动化越狱攻击的鲁棒性。研究使用 HackAgent 红队框架,生成了数十万次对抗性尝试,覆盖四个自动化越狱攻击
该论文提出 ShellGames,一种基于大语言模型(LLM)的 SSH 壳层模拟器,旨在解决现有网络欺骗技术中难以维持长时间、可信交互式会话的挑战。当前蜜罐等欺骗手段往往缺乏真实性和动态性,容易被攻击者识破。LLM 虽能生成自然对话,但存
本文提出 Cordon,一个专为使用工具的 LLM agent 设计的事务性运行时系统。当前 LLM agent 的运行时将工具调用暴露为独立的 RPC 调用,缺乏任务级执行边界(如提交、回滚、恢复和审计),导致多步 agent 工作流中不
本文回顾了2025-2026年间两个关键事件对全球网络安全格局的影响,并特别关注非洲的处境。第一起事件中,一个大语言模型在极少数人工干预下独立执行了绝大部分针对国家背景的网络间谍活动,证明了前沿AI模型已具备自主实施复杂网络攻击的能力。第二
An authenticated user could crash a SurrealDB server with a single query containing a long chain of operators. Such a q
Lokka versions prior to 2.1.2 constructed Azure Resource Manager request URLs using direct string concatenation with use
# Summary An attacker who can send an HTTP request to a server running the LangSmith SDK's `TracingMiddleware` can caus
### Summary A GitHub Actions workflow is vulnerable to command injection through the issue title. The workflow is trig
## Summary ChatterBot's `UbuntuCorpusTrainer.extract()` uses a predictable, home-rooted output directory (`~/ubuntu_dat
## Unescaped Locator Data XSS in MCP-UI Resource (createLocatorGeneratorUI) ### Summary `appium-mcp`'s `createLocatorG