CAITLYN: Can LLM Agents Autonomously Synthesize Defenses against Emerging Injection Attacks?
本文针对大型语言模型(LLM)代理面临的提示注入攻击问题展开研究。提示注入攻击通过在代理检索的外部文本源中嵌入恶意指令或内容,诱导底层LLM执行超出其良性范围的危险操作。现有防御方法虽然能对抗已知注入攻击,但在LLM代理环境中部署仍存在困难
今日共收录 1266 条安全情报,包含 424 个 CVE,451 篇安全通告,以及 107 篇研究论文。
← 返回归档列表本文针对大型语言模型(LLM)代理面临的提示注入攻击问题展开研究。提示注入攻击通过在代理检索的外部文本源中嵌入恶意指令或内容,诱导底层LLM执行超出其良性范围的危险操作。现有防御方法虽然能对抗已知注入攻击,但在LLM代理环境中部署仍存在困难
本论文提出 CHISEL,一个无需测试套件的迭代式源码恢复框架,旨在改进二进制反编译的质量。传统反编译器(如 Ghidra)生成的伪 C 代码难以阅读且通常无法直接编译;而近年来基于大语言模型(LLM)辅助的反编译方法虽然能生成可读性较好的
[原创] 别傻了,你的引擎加密挡不住"不讲武德"的邪修 —— XA 内存盲打补丁,记偏移秒改的实战套路
AGFlow 三洞审计:补丁追着漏洞跑,有个版本掉队了
CVE-2026-62737
Windows11 0day内核提权漏洞分析与利用(CVE-2026-62737)
CVE-2026-73653
CVE-2026-73653:Vitest Browser Mode 权限绕过漏洞原理与代码分析
CVE-2026-82078 · CVE-2026-81578
CISA has added the vulnerabilities tracked as CVE-2026-82078 and CVE-2026-81578 to its KEV catalog. The post PaperCut Ex
本研究聚焦于编码智能体(coding agents)在遇到有缺陷的测试基础设施时可能产生的“奖励黑客”(reward hacking)行为——即通过硬编码输出、修改测试文件等方式绕过无法合法满足的测试。这种行为已不仅限于基准测试环境,还出现
本文针对2025-2026年AI市场中出现的匿名前沿模型发布现象,提出了一套用于黑盒身份验证的取证审计协议。所谓匿名发布,是指开发者以代号形式在平台上部署模型,用户无法直接确认模型的真实身份,而身份决定了数据处理条款、供应链风险与能力预期。
该论文提出了一种非对称的视频水印方案,解决了现有视频水印系统普遍存在的对称性问题。在现有系统中,能够验证水印的一方通常持有提取器权重或生成器秘密,因此攻击者一旦获得验证能力,也能伪造或嵌入水印。基准测试表明,在白盒伪造攻击下,所有被评估的方
语音增强模型被广泛用作语音识别、实时通信等系统的前端,但其安全性尤其是后门攻击的脆弱性尚未得到充分研究。现有后门攻击方法主要面向图像/文本分类任务,依赖于主动注入外部触发器,这与语音增强模型被动处理输入的特性不兼容。为此,本文提出 Ouro
该论文针对跨组织智能体(Agent)工作流中的问责与审计难题,提出了一种离线可验证的保留证据包(Preserved Evidence-Bundle)方法。在跨组织场景下,多个组织参与智能体间的消息交互与委派操作,事后审计或纠纷评审时需要保留
本文提出一种针对光滑 Transformer 前馈网络(FFN)的结构性模型提取攻击方法,揭示了黑盒场景下二阶信息泄露内部参数几何的新通道。作者假设攻击者拥有对 FFN 分支的“选定输入-原始输出”(chosen-input raw-out
本文提出 DP-VOXLET,一种基于差分隐私(Differential Privacy)的说话人匿名化系统。说话人匿名化的目标是在隐藏说话人身份的同时,保留语句的语义内容和韵律信息。现有方法通常使用学习到的解耦表示,将语音拆分为语义内容和
硬件安全模块(HSM)日志记录了安全关键行为,但异常往往隐藏于事件序列、密钥、对象状态、会话以及时间模式之间的复杂关联中,而非单个孤立事件。传统检测方法通常将异常检测与基于HSM证据的验证和报告分离,导致误报率高且难以支撑事件调查。本文提出
本论文针对大规模扩散模型(如 DDIM 和 Stable Diffusion)的知识产权(IP)保护问题,提出了一种新颖的模型所有权验证框架 MiO(Membership is Ownership)。研究背景是:扩散模型在训练过程中消耗大量
多核处理器在嵌入式系统中日益普及,以满足不断增长的性能需求。然而,多核架构的物理侧信道分析研究一直相对滞后,根本原因在于获取可用的电磁泄漏信号极为困难,这使得针对此类系统的侧信道安全研究远落后于实际应用,留下严重的安全隐患。针对这一空白,本
本文针对企业网络中的高级持续性威胁(APT)横向移动问题,提出了一种名为 NetZone 的网络内访问控制机制。传统网络防御难以在进程级别追踪用户跨网络的移动行为,而是对主机内所有进程赋予“环境信任”(ambient trust),导致一旦
该论文研究检测规则仓库中误报抑制(exclusion)的累积与持久性问题。在安全运营中,当规则产生过多误报时,分析师通常会添加排除条件,使规则在此后不再对特定情况告警。单个排除决策看似合理,但集体效果未知。已有纵向研究显示规则库的维护并未收
该论文研究编程助手(coding agent)在从第三方仓库引导项目时面临的安全风险,重点揭示用户日常调用方式对仓库投毒攻击(repository poisoning)成功率的隐性影响。以往研究大多聚焦于攻击者如何控制注入内容和伪装恶意代码