AgentGuard: An Attribute-Based Access Control Framework for Tool-Use LLM-Based Agent
本文提出 AgentGuard，一个面向基于工具调用的 LLM Agent 的基于属性的访问控制框架。LLM Agent 能够自主调用外部工具完成复杂任务，但面临严重安全风险，如隐私泄露、财产损失甚至系统完全被控。AgentGuard 采用
2026-05-28 归档
今日共收录 1581 条安全情报，包含 810 个 CVE，383 篇安全通告，以及 109 篇研究论文。
← 返回归档列表Position: Retire the "Positive Backdoor" Label -- Secret Alignment Requires Strict and Systematic Evaluation
本论文是一篇立场论文，核心论点是：人工智能/机器学习社区应停止过度使用“正向后门”（positive backdoor）这一标签，而应将触发激活的隐藏行为统一视为“秘密对齐”（Secret Alignment）。作者指出，在私有人工智能时代
Refusal Before Decoding: Detecting and Exploiting Refusal Signals in Intermediate LLM Activations
本研究探索是否可以在大型语言模型（LLM）解码之前，通过中间层的激活值预测模型的拒绝行为。作者在残差流的每个Transformer块上训练线性探针（linear probes），发现拒绝行为在输出生成前已经在线性可分的中间激活中体现。为了检
SPARD: Defending Harmful Fine-Tuning Attack via Safety Projection with Relevance-Diversity Data Selection
大型语言模型（LLM）的微调过程常会破坏其安全对齐，而有害微调攻击（通过注入对抗性数据移除安全机制并诱导不安全行为）进一步加剧了这一问题。针对此，本文提出SPARD防御框架，整合了安全投影交替优化（SPAG）和相关性-多样性感知数据选择。S
Can It Reach the Generator? Investigating the Survival of Prompt-Injection Attacks in Realistic RAG Settings
该论文研究了在现实RAG（检索增强生成）系统中，提示注入攻击（GEO攻击）是否能够成功到达生成器。之前的GEO研究假设被攻击的文档总是直接输入给生成器，忽略了检索器和重排序器的过滤作用。作者在更真实的三个流水线阶段（检索器→LLM重排序器→
Disentangling Adversarial Prompts: A Semantic-Graph Defense for Robust LLM Security
本文针对大型语言模型（LLM）面临的对抗性提示攻击（如越狱、提示注入）提出了一种名为“对抗性提示解缠”（APD）的防御框架。该框架在输入提示被LLM处理之前，主动识别并中和其中的恶意成分。APD框架包含三项核心创新：1）基于互信息的语义分解
Poison with Style: A Practical Poisoning Attack on Code Large Language Models
本文提出了一种针对代码大语言模型（CLLMs）的实用且隐蔽的投毒攻击方法——Poison-with-Style (PwS)。与以往需要攻击者在推理阶段主动将显式触发器（如特定单词）嵌入开发者提示中的攻击不同，PwS 利用开发者自身的代码风格
HARP: Measuring Harm Amplification in Multi-Agent LLM Systems
本文提出了一种名为HARP（Harm Amplification through Role Perturbation）的方法，用于测量多智能体LLM系统中的危害放大效应。在多智能体系统中，工作流被分解为多个代理、工具、共享上下文、内存和决策
Prompt Injection Detection is Regime-Dependent: A Deployment-Aware Evaluation with Interpretable Structural Signals
本文针对大型语言模型（LLM）面临的提示注入攻击威胁，提出了一种部署感知的评估框架，用于比较多种检测方法在不同部署条件下的表现。现有检测方法通常在有限设定下评估，未反映真实操作约束。作者构建了多模型、多场景的实验框架，涵盖词法、语义、结构以
GradSentry: Gradient Spectral Entropy for Backdoor Sample Filtering in Large Language Model Fine-Tuning
该论文提出了一种名为GradSentry的后门样本过滤方法，用于防御大语言模型（LLM）微调过程中的后门攻击。研究背景是：在微调LLM时，使用不可信的数据集可能引入后门攻击，其中被投毒的样本会导致模型在特定触发器下产生恶意行为。现有的样本过
SEC-bench Pro: Can Language Models Solve Long-Horizon Software Security Tasks?
大型语言模型（LLM）已开始支持自动化软件安全任务，如漏洞发现和概念验证（PoC）生成。然而，现有基准测试依赖模糊测试框架、目标特定描述或漏洞复现任务，未能真实评估LLM在实际漏洞挖掘场景中的表现。为此，本文提出了SEC-bench Pro
Intelligent Detection and Mitigation of Carpet-Bombing DDoS Attacks in SDN Using Retrieval-Augmented Generation and Large Language Models
软件定义网络（SDN）因其集中控制架构而面临分布式拒绝服务（DDoS）攻击的严重威胁，特别是地毯式轰炸（Carpet-Bombing）DDoS攻击，这种攻击将恶意流量分散到多个目标以逃避传统检测机制。本文提出了一种基于检索增强生成（RAG）
CyberEvolver: Structured Self-Evolution for Cybersecurity Agents On the Fly
该论文提出了一种名为 CyberEvolver 的自主进化网络安全智能体框架，旨在解决现有基于大语言模型（LLM）的智能体在安全任务中依赖固定人工设计的脚手架、难以适应不同目标和故障模式的问题。论文首先分析了自进化在网络安全领域的三大挑战：
Capability and Robustness Cannot Both Be Free: An Information-Theoretic Bound for Vision-Language-Action Models
该论文研究了视觉-语言-动作（VLA）模型在机器人部署中的能力与鲁棒性之间的理论权衡。VLA模型在干净输入上表现出高成功率（如OpenVLA-7B在LIBERO基准上超过95%），但在微小对抗扰动下性能急剧下降（例如16/255的PGD攻击
Broken Object Level Authorization in the Wild: An Empirical Taxonomy from 100+ Bug Bounty Disclosures
该论文对公开披露的漏洞赏金报告中的“对象级授权失效”（BOLA）漏洞进行了首次大规模实证分析。作者从HackerOne平台收集了200份标记为IDOR或不当访问控制的报告（2021-2026年），并应用三标准包含过滤器，最终得到107份已分
TTPrint: Evidence-Grounded TTP Extraction via Diverge-then-Converge Verification
该论文提出了一种名为TTPrint的新型TTP提取方法，旨在从网络威胁情报（CTI）报告中准确提取MITRE ATT&CK技术。现有方法（基于规则、监督学习、大语言模型）难以同时实现高召回率和高精确率：规则和监督方法泛化能力差，而LLM方法
Evo-Attacker: Memory-Augmented Reinforcement Learning for Long-Horizon Tool Attacks on LLM-MAS
该论文关注于基于大语言模型的多智能体系统（LLM-MAS）中的工具攻击问题。LLM-MAS通过协调专门的智能体和外部工具来解决复杂任务，但系统对工具输出的隐式信任造成了关键攻击面。现有工具攻击方法受限于领域特定性或使用固定的静态模板。为此，
AgentSecBench: Measuring Prompt Injection, Privacy Leakage, and Tool-Use Integrity in LLM Agents
该论文提出了 AgentSecBench，一个用于系统性评估大型语言模型（LLM）代理安全性的实证基准框架。LLM 代理在处理可信指令、检索记录和工具观测时，所有信息均通过同一个生成通道，导致数据流与权限混淆：即使应用策略未授权，不受信任的
Apache Camel JMS 反序列化(CVE-2026-40860)漏洞分析
CVE-2026-40860
Apache Camel JMS 反序列化(CVE-2026-40860)漏洞分析
[原创]OpenClaw沙箱机制逃逸漏洞分析（CVE-2026-24763）
CVE-2026-24763
[原创]OpenClaw沙箱机制逃逸漏洞分析（CVE-2026-24763）