When Safe Skills Collide: Measuring Compositional Risk in Agent Skill Ecosystems
该论文研究了LLM代理系统中一个核心安全问题：即使每个独立的技能（skill）本身是安全的，将它们组合成技能集（skill set）后是否可能产生不安全的行为。作者提出了SkillReact框架，这是一个组合安全测量框架，包含三个部分：确定
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Stateful Online Monitoring Catches Distributed Agent Attacks
该论文研究了大型语言模型（LLM）代理在网络安全中的误用问题，特别是分布式代理攻击。作者指出，现有的安全监控器仅对单个代理上下文进行评分，因此无法检测到跨多个用户账户分布的恶意行为，这些行为在单个转录中看似无害。为了证明这一安全缺口，他们构
EvoDefense: Co-Evolving Black-Box Defense with Large Language Models
大型语言模型（LLM）在多种攻击下仍高度脆弱，尤其是在黑盒场景中，攻击者无法获取目标模型的内部信息。现有的黑盒防御方法通常依赖预定义的过滤启发式规则，难以泛化到未知攻击类型和不同目标模型架构。本文提出 EvoDefense，一种经验引导的共
From Prompt Injection to Persistent Control: Defending Agentic Harness Against Trojan Backdoors
该论文针对LLM Agent安全领域，揭示了一种新型的多步Trojan攻击范式。在本地Agent harness（如OpenClaw模拟的工作空间）中，LLM能够读写文件、调用工具并在会话间复用工作空间状态。攻击者可以将恶意prompt注入
DataShield: Safety-degrading Data Filtering for LLM Benign Instruction Fine-Tuning
大型语言模型（LLMs）在即使使用良性数据集进行指令微调时，也会出现安全能力退化的问题。现有识别良性数据中安全退化样本的方法存在计算成本高、噪声大的缺点。本文提出DataShield，一种高效识别潜在安全退化样本的方法。核心直觉是良性微调会
Thou Shall Not Pass: Gatekeeping Outbound TLS Connections
本文针对传输层安全协议（TLS）在现实部署中因过时版本和配置错误导致安全保证受损的问题展开研究。研究团队在布鲁诺·凯斯勒基金会（Fondazione Bruno Kessler）收集了两周内超过5000万次TLS握手数据，分析了服务器选择的
Free-Riding in the AI Economy: Demystifying Logic Flaws in x402-Enabled Payment Systems
本文对x402协议（一种用于机器间支付的HTTP支付协议）进行了首次系统性安全分析。x402协议旨在为代理经济提供程序化金融轨道，但其将同步HTTP请求与异步区块链最终性相结合，引入了状态同步挑战。研究者形式化了五个安全不变量（Securi
TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking
随着LLM Agent（智能体）的兴起，它们能够自主规划、编写代码甚至端到端执行专家级的攻击工作流，这带来了新的安全威胁。然而，这种威胁目前尚未被充分研究和重视，原因有二：一是安全对齐机制阻止LLM直接生成有害指令；二是现有的越狱方法大多无
LLM Anonymization Against Agentic Re-Identificatio
随着具备网络搜索能力的智能体LLM（如AutoGPT、WebGPT）的普及，文本匿名化的威胁模型发生了根本性变化：即使是看似弱小的上下文线索（如时间、地点、角色名称等）也可能被攻击者通过跨网页交叉引用成功关联，从而重识别出个人身份。然而，这
Send a SCOUT First: Pre-hoc Reasoning for Adaptive Detector Allocation in Prompt-Injection Defense
本文针对提示注入攻击的防御问题，指出现有检测器存在异质性：每个检测器在不同攻击类型上表现各异，没有单一检测器始终可靠。然而，现有系统仍采用固定单检测器流水线，将每个请求都交给同一个检测器处理，从而暴露于其盲区。作者提出将防御重新定义为检测器
Depth-Dependent Indirect Prompt Injection in Tool-Calling ReAct Agents: Injection Depth, Payload Framing, and Turn-Budget Sensitivity
该论文研究了工具调用ReAct智能体（如GPT-4o-mini和Claude Haiku）在面对间接提示注入攻击时的脆弱性。ReAct智能体交替进行链式思考推理和工具调用，广泛应用于日程安排、文件检索等实际任务。其工具观测循环存在攻击面：攻
Investigating Detection and Obfuscation of Prompt Injection Attacks Against Software Reverse Engineering AI Agents
该论文研究了面向软件逆向工程的多智能体系统在分析二进制可执行文件时面临的提示注入攻击威胁。攻击者可将恶意注入字符串嵌入源代码或编译产物中，当AI代理解析反编译输出时触发异常行为。作者首先展示了如何利用现有反编译器检测被篡改后的可执行文件中的
Automatically Attacking Software Reverse Engineering AI Agents
该论文研究了针对大型语言模型（LLM）驱动的逆向工程 AI 代理的自动化攻击方法。随着 LLM 被集成到如 Ghidra 等二进制逆向工程工具中，自动化分析流程得以实现，但同时也引入了新的安全风险。作者提出了一种基于遗传算法的提示生成技术（
An Organization-Scoped LLM Agent Runtime Architecture for Regulated Cybersecurity Operations
这篇论文针对受监管的网络安全运维场景，指出现有的大语言模型（LLM）代理系统虽然在孤立的网络安全任务上表现良好，但缺乏一个能够跨检索、工具调用、记忆、发现、报告和审计强制执行组织级范围、同时保持模型无关且可本地部署的运行时平台。特别是在安全
Token-Level Generalization in LoRA Adapter Backdoors: Attack Characterization and Behavioral Detection
该论文研究了针对LoRA适配器（当前微调大语言模型的主流格式）的后门攻击及其检测方法。作者通过数据投毒在LoRA适配器中植入后门，同时保持基准任务性能不受影响。以Qwen 2.5 1.5B提示注入分类器为例，少量有毒样本即可使后门达到饱和，
BioRefusalAudit: Auditing Biosecurity Refusal Depth Using General and Domain-Fine-Tuned Sparse Autoencoders
该论文研究了语言模型在生物安全场景下的拒绝行为可靠性。传统评估关注模型是否生成有害输出，但本论文提出一个补充问题：当模型拒绝时，其拒绝是否结构稳固，抑或在提示措辞、格式或输出长度的微小变化下消失？作者在五种架构（Gemma 2 2B-IT、
How Reliable Are AI Attackers Against a Fixed Vulnerable Target? A 400-Run Empirical Study of LLM Penetration Testing Consistency
本文针对大型语言模型（LLM）作为自主攻击者的行为一致性进行了首个大规模实证研究。研究团队在固定提示词、编排器和目标环境（包含OWASP Juice Shop及两个附加易受攻击服务的蜜罐）的条件下，对四种LLM（Claude Sonnet
Hijacking Agent Memory: Stealthy Trojan Attacks Through Conversational Interaction
本文提出了一种针对大型语言模型（LLM）智能体长期记忆系统的隐蔽后门攻击方法——MemPoison。LLM智能体通过长期记忆支持持续自主的任务执行，但记忆系统的选择性提取和重写机制使得传统记忆投毒攻击难以生效。MemPoison通过对话交互
Dissecting the Black Box: Circuit-Level Analysis of LLM Vulnerability Detection
本文采用机械可解释性方法深入分析大语言模型（LLM）检测软件漏洞的内部计算机制。研究以Gemma-2-2b模型为对象，使用Circuit Tracer工具追踪其在分类472个C/C++代码样本（含漏洞与安全代码）时激活的计算路径。令人惊讶的
AgentDoG 1.5: A Lightweight and Scalable Alignment Framework for AI Agent Safety and Security
该论文针对开放世界AI代理（如OpenClaw）在跨环境执行时引入的新型安全风险，提出了一种轻量级、可扩展的代理安全对齐框架AgentDoG 1.5。研究背景指出，现有前沿AI模型大幅降低了攻击门槛，而当前的对齐框架不足以应对真实部署中的威