SafeClawBench: Separating Semantic, Audit-Evidence, and Sandbox Harm in Tool-Using LLM Agents
该论文提出了SafeClawBench，一个专门用于评估使用工具的LLM智能体安全性的分阶段基准测试。现有评估通常将不同安全失效模式（如文本同意、可审计危害、沙箱内工具状态改变）合并为单一的攻击成功率，导致难以区分模型是仅仅同意了攻击者还是
2026-06-18 归档
今日共收录 819 条安全情报，包含 0 个 CVE，417 篇安全通告，以及 115 篇研究论文。
← 返回归档列表Seeing Is Not Screening: Multimodal Hidden Instruction Attacks on Agent Skill Scanners
本文研究了大语言模型（LLM）中agent技能的安全问题。随着LLM agent的普及，第三方技能（如插件、扩展）成为新兴攻击面。现有技能扫描器主要依赖文本描述、清单和源代码进行安全分析，忽略了视觉内容中可能隐藏的恶意指令，造成安全盲区。攻
Structural Role Injection in Handlebars-Templated LLM Prompts: Triple-Brace Interpolation, Delimiter Family, and the Limits of HTML Auto-Escaping
本文研究Handlebars模板引擎在LLM提示生成中的结构性角色注入风险。Handlebars默认使用双花括号{{x}}进行HTML转义，而三花括号{{{x}}}则直接插入原始值。作者通过模型无关分析发现，HTML转义仅重写尖括号，不会转
ShellGames: Speculative LLM-Driven SSH Deception
ShellGames 是一项针对网络欺骗中 LLM 应用局限性的系统性研究。传统的蜜罐和欺骗系统往往难以维持长期、可信的交互会话，攻击者容易通过状态不一致、输出错误或响应延迟识破伪装。大型语言模型（LLM）因其自然语言生成能力被视为构建动态
Cordon: Semantic Transactions for Tool-Using LLM Agents
本文针对工具使用型LLM代理在执行多步任务时缺乏事务性执行边界的问题，提出了一种名为Cordon的运行时系统。当前代理运行时将工具暴露为孤立RPC调用，导致无法对跨多步工作流进行统一提交、回滚、恢复和审计。Cordon引入“语义事务”（se
PARSE: Provenance-Aware Retrieval Sanitization for Professional Domain LLM Agents
该论文研究了针对专业领域大语言模型（LLM）代理的提示注入攻击防御问题。作者指出，现有的提示注入防御方法大多在合成基准上进行评估，但这些合成数据无法代表真实企业文档（如SEC文件、联邦公报、PubMed摘要等）——后者通常更长、密度更高，并
Bifrost: Hybrid TEE-FHE Inference for Privacy-Preserving Transformer and LLM Serving
本文提出了 Bifrost，一种混合 TEE-FHE 推理架构，旨在解决云上 Transformer 和大型语言模型 (LLM) 推理中的隐私问题。用户提交的提示可能包含敏感代码、商业数据、个人信息或受监管文档，而远程服务会将中间状态暴露给
OTRO: Oblivious Tokenization Path with Square-Root ORAM
该论文针对CPU侧的大语言模型（LLM）分词器在可信执行环境（TEE）中的安全漏洞展开研究。分词器通过查表操作将提示词转换为token，其内存访问模式会泄露用户隐私。已有研究在Intel TDX上展示了从分词器访问模式端到端恢复用户提示词的
How Much Can We Trust LLM Search Agents? Measuring Endorsement Vulnerability to Web Content Manipulation
本文研究了基于大语言模型（LLM）的搜索代理在整合网页内容生成建议时，面临被攻击者操纵的风险。作者提出了SearchGEO框架，用于系统评估LLM搜索代理对网页内容操纵的认可脆弱性。该框架包括三个组件：网络证据操纵流水线、五种攻击模式分类、
Automated jailbreak attack targeting multiple defense strategies
本文提出了一种名为 UNIATTACK 的自动化对抗测试框架，旨在从防御者视角系统性地构造有效的黑盒攻击提示，以评估大语言模型（LLM）的安全性。现有方法通常依赖静态模板或迭代的模型特定调优，效率低且泛化能力差。UNIATTACK 通过从多
LineageMark: Multi-user White-box Watermarking for Contribution Tracing in Model Derivation Chains
本文针对开放大语言模型（LLM）生态系统中模型在多领域、多应用场景下频繁适配形成多阶段衍生链导致的贡献溯源与知识产权保护难题，提出了一种名为LineageMark的多用户白盒水印框架。现有水印方法主要针对单用户一次性嵌入，无法有效应对多次模
DoubtProbe: Black-Box Jailbreak Defense via Structural Verification and Semantic Auditing
本文提出了一种针对大型语言模型（LLM）的黑盒越狱防御框架 DoubtProbe。随着 LLM 在用户交互系统中的应用日益广泛，黑盒越狱防御成为一个关键实际问题。现有防御方法通常依赖已知攻击覆盖、提示级语义判断或本地运行时控制，但在不断演变
An Evaluation of Data Leakage Risks in Tool-Using LLM Agents in Realistic Scenarios
本文由新加坡AI安全研究所与韩国AI安全研究所联合进行，系统评估了LLM Agent在非对抗性使用场景下的数据泄露风险。以往研究多关注通过提示注入或越狱实现的对抗性数据外泄，但本文指出，在用户提出正常、非恶意请求时，敏感信息也可能因Agen
Looking Is Not Picking: An Attention-Segment Account of Tool-Selection Failures in LLM Agents
该论文研究了大型语言模型（LLM）智能体在工具选择过程中的失败机制。通常认为，模型在工具集中未能注意到正确工具是导致错误选择的原因，但论文通过注意力片段分析提出了相反的观点：模型在80%的情况下正确关注到了正确的工具，但依然做出了错误选择。
Loss Landscape Poisoning: Targeted Extraction of Unseen Training Data from LLMs
本文研究了一种针对大型语言模型（LLM）的新型训练数据提取攻击。攻击者通过投毒一小部分训练数据，能够诱导模型泄露一条攻击者无法访问的目标记录（例如私有医疗记录或用户对话）。核心洞察是：通过在目标完成点附近重塑模型的局部损失景观，使其成为尖锐
The Gate Is Only as Honest as Its Contracts: ContractGuard for the Contract Layer of Risk-Aware Causal Gating
本文针对工具增强型大语言模型（LLM）智能体面临的间接提示注入攻击，分析了风险感知因果门控（RACG）防御机制的安全性假设。RACG通过从智能体的可见动作空间中移除危险工具，提供结构性保障，即使智能体完全被注入操控也无法调用不可见的工具。然
Microsoft Confirms RoguePlanet Defender Zero-Day, Says Patch is in Development
CVE-2026-50656
Microsoft has formally disclosed that it's working to release a patch to address a Defender zero-day codenamed RoguePlan
CISA Warns of Actively Exploited Joomla JCE Flaw Allowing PHP Code Execution
CVE-2026-48907
The U.S. Cybersecurity and Infrastructure Security Agency (CISA) on Tuesday added a maximum-severity security flaw impac
From Third-Party to First-Party: Measuring and Protecting Against Modern Web Tracking Mechanisms
本文针对网络追踪从第三方追踪向第一方追踪（FPT）和服务器端追踪（SST）的转变进行了大规模测量研究。随着隐私法规和浏览器限制的加强，追踪者将逻辑迁移到浏览器的第一方上下文或网站后端，使得传统客户端检测工具失效。作者开发了一种独立于供应商的
Quantifying quantum risk: a measure of crypto agility
本文针对量子计算机对当前广泛使用的密码算法构成的威胁展开研究。量子计算机凭借其实现新型密码分析的能力，可能在未来十年内对现有加密体系造成颠覆性影响，且由于“先收集后解密”的攻击行为模式，当前即需采取缓解措施。尽管近年来密码学与安全架构的进步