MonitoringBench: Semi-Automated Red-Teaming for Agent Monitoring
本文提出了一种针对编码代理（coding agent）监控器的红队测试方法，旨在揭示现有评估中难以捕获的攻击类型，并指出当前实践可能低估攻击能力并高估监控器性能。作者识别了当前红队测试的三个挑战：攻击生成中的模式坍缩（通过新颖的攻击分类法扩
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Constraining Host-Level Abuse in Self-Hosted Computer-Use Agents via TEE-Backed Isolation
本文针对自托管计算机使用代理（SHCUA，如 OpenClaw）面临的主机级滥用风险，提出了一种基于 TEE（可信执行环境）的隔离方案。SHCUA 通过自然语言交互可直接访问浏览器、文件、脚本、系统命令等主机资源，虽能自动化真实任务，但也引
Fine-Tuning Small Language Models for Solution-Oriented Windows Event Log Analysis
本文研究使用小型语言模型（SLM）进行面向解决方案的Windows事件日志分析。大型语言模型（LLM）在事件日志分析中展现出潜力，但高计算需求、对云基础设施的依赖以及安全顾虑限制了实际部署。此外，现有方法大多仅关注问题识别，未能提供可操作的
Profiling for Pennies: Unveiling the Privacy Iceberg of LLM Agents
本文研究了大型语言模型（LLM）代理带来的新型隐私威胁，即通过自动化深度个人画像实现隐私入侵。现有研究多从LLM训练流程出发，关注通过记忆泄露个人身份信息（PII），而缺乏从人类中心视角的隐私研究。作者通过实证调查了真实世界中人类对隐私的感
PragLocker: Protecting Agent Intellectual Property in Untrusted Deployments via Non-Portable Prompts
LLM agents 依赖提示（prompts）在基础大模型上实现特定任务能力，使得这些提示成为有价值的 intellectual property。但在不可信部署环境下，攻击者可以复制这些提示并在其他专有 LLM 上重用，导致经济损失。现
SkillScope: Toward Fine-Grained Least-Privilege Enforcement for Agent Skills
本文提出 SkillScope，一个面向 LLM Agent 中 Agent Skills 的细粒度最小权限强制框架。Agent Skills 通过将元数据、自然语言指令和可执行资源打包成可复用的能力包，扩展了 LLM Agent 的功能。
LoopTrap: Termination Poisoning Attacks on LLM Agents
本文针对现代 LLM 代理在执行复杂任务时采用的迭代执行循环机制，提出了一种新型攻击——终止毒化（Termination Poisoning）。在这种循环中，代理反复进行推理、行动和自我评估，以判断任务是否完成。攻击者通过向代理的上下文注入
SafeHarbor: Hierarchical Memory-Augmented Guardrail for LLM Agent Safety
随着基础模型的快速发展，大型语言模型（LLM）智能体展现了日益强大的工具调用能力，但同时也引入了显著的安全风险，恶意行为者可能操纵智能体执行工具以生成有害内容。现有防御机制虽然有效，但常存在过度拒绝问题：提高安全严格性会损害智能体在良性任务
WAAA! Web Adversaries Against Agentic Browsers
该论文首次针对大型语言模型（LLM）驱动的代理浏览器（agentic browser）提出了以Web为中心的威胁模型。先前研究仅关注间接提示注入攻击，忽略了传统Web攻击对代理浏览器的威胁。作者扩展了See→Act浏览器代理模型，将代理视为
SOCpilot: Verifying Policy Compliance for LLM-Assisted Incident Response
该论文提出 SOCpilot 框架，旨在解决大语言模型（LLM）辅助的应急响应计划中的策略合规性问题。安全运营中心（SOC）开始使用 LLM 作为副驾驶来起草应急响应计划，但这些计划可能包含在目录中有效但违反强制性步骤、顺序要求或审批门控的
Securing the Agent: Vendor-Neutral, Multitenant Enterprise Retrieval and Tool Use
本文针对企业级AI系统中检索增强生成（RAG）和智能体AI系统的多租户安全隔离问题，提出了一种分层隔离架构。现有系统通常基于语义相似度、关键词匹配或混合方法按相关性对文档排序，而非按授权策略，导致不同租户的查询可能因得分最高而暴露其他租户的
SoK: Robustness in Large Language Models against Jailbreak Attacks
本文是一篇系统化知识综述（SoK），聚焦于大语言模型（LLM）针对越狱攻击的鲁棒性问题。越狱攻击通过精心构造的对抗提示，诱使模型生成有害、不道德或违反政策的输出，对高安全性应用中的信任、合规和安全构成实际威胁。现有评估实践通常仅依赖攻击成功
Agentic Vulnerability Reasoning on Windows COM Binaries
本文提出 SLYP，一种端到端智能体管道，用于在 Windows 组件对象模型（COM）二进制文件中发现竞争条件漏洞并生成经调试器验证的利用证明（PoC）。COM 服务以高权限运行且对认证用户广泛可用，其中的竞争条件是本地权限提升的关键攻击
You Snooze, You Lose: Automatic Safety Alignment Restoration through Neural Weight Translation
随着开源大语言模型（LLM）的普及，通过公开分发低秩适应（LoRA）模块来定制模型能力已成为常见做法。然而，集成第三方 LoRA 模块会导致基础模型的安全对齐被灾难性遗忘，即模型失去了原有的安全护栏。传统方法通过安全数据微调来恢复对齐，但这
AgentTrust: Runtime Safety Evaluation and Interception for AI Agent Tool Use
现代AI代理通过工具调用（如文件操作、shell命令、HTTP请求和数据库查询）执行实际影响。单个不安全操作（如意外删除、凭证泄露或数据外泄）可能导致不可逆的损害。现有防御措施不完整：事后基准在执行后测量行为，静态护栏遗漏混淆和多步上下文，
Pen-Strategist: A Reasoning Framework for Penetration Testing Strategy Formation and Analysis
本文提出 Pen-Strategist 框架，旨在解决现有基于 LLM 的自动化渗透测试框架在策略制定、领域推理和工具选择方面的局限性。该框架由两个核心组件组成：一个领域特定的推理模型和一个基于语义的 CNN 分类器。推理模型通过逻辑推理推
ExpShield: Safeguarding Web Text from Unauthorized Crawling and LLM Exploitation.
该论文针对大型语言模型（LLM）在训练过程中记忆网络爬取内容，可能导致版权或隐私泄露的问题，提出了一种名为ExpShield的主动防御机制。现有防护手段依赖爬虫或模型开发者的合规性，效果有限。ExpShield通过向文本添加不可见扰动（in
In-Context Probing for Membership Inference in Fine-Tuned Language Models.
本文提出一种针对微调大语言模型（LLM）的成员推理攻击（MIA）新框架ICP-MIA。现有黑盒MIA方法多依赖置信度分数或词元似然，但这些信号与样本内在属性（如难度、稀疏性）纠缠，导致泛化差、信噪比低。作者从训练动态理论出发，发现优化过程中
CHAMELEOSCAN: Demystifying and Detecting iOS Chameleon Apps via LLM-Powered UI Exploration.
本文提出了一种名为ChameleoScan的新型检测框架，旨在利用大语言模型（LLM）驱动的UI探索技术，识别和检测iOS平台上的变色龙应用（Chameleon Apps）。变色龙应用是一类在应用商店审核期间表现正常，但安装后通过更新、远程
DUALBREACH: Efficient Dual-Jailbreaking via Target-Driven Initialization and Multi-Target Optimization.
本文提出了一种针对大语言模型（LLM）及其防护栏（Guardrails）的双重越狱攻击框架DualBreach。现有研究主要关注单一越狱，即仅针对LLM本身，而忽略了防护栏的防御作用，导致在防护栏保护的LLM上攻击成功率受限。DualBre