Stealthy World Model Manipulation via Data Poisoning
本文针对基于模型的学习代理（model-based learning agents）中世界模型（world model）的微调阶段面临的数据投毒攻击问题，提出了SWAAP（Stealthy World Model Manipulation
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Understanding and Mitigating Prompt Leaking Attacks in Real-World LLM-Based Applications
该论文系统性地研究了基于大语言模型（LLM）的应用中系统提示（system prompt）泄露问题。系统提示编码了核心逻辑和开发者定义的约束，是重要的知识产权，但易受提示泄露攻击。作者在六个主流商业平台上测量了1200个应用，发现超过80%
Code-Augur: Agentic Vulnerability Detection via Specification Inference
本文提出了一种基于代理（agent）的漏洞检测新范式，名为 Code-Augur。当前，由自主 LLM 代理完成的代码审计已能发现数字社会基础软件中的关键漏洞，但这些代理的推理过程不透明且未经验证，导致误报和漏报。Code-Augur 采用
The Gate Is Only as Honest as Its Contracts: ContractGuard for the Contract Layer of Risk-Aware Causal Gating
本文针对工具增强型LLM智能体面临的间接提示注入攻击，分析了风险感知因果门控（RACG）防御机制的信任假设。RACG通过将危险工具从智能体的可见动作空间中移除来提供结构保证，但论文指出，这一保证将信任转移到工具合约（声明前置条件、效果、风险
SafeClawBench: Separating Semantic, Audit-Evidence, and Sandbox Harm in Tool-Using LLM Agents
本文提出 SafeClawBench，一个专门用于评估工具使用型大语言模型（LLM）代理安全性的分阶段基准测试。现有安全评估通常将所有失败模式合并为一个攻击成功率指标，难以区分模型仅是同意了攻击者意图，还是实际产生了可观察的损害。SafeC
Seeing Is Not Screening: Multimodal Hidden Instruction Attacks on Agent Skill Scanners
该论文聚焦于基于大语言模型（LLM）的Agent技能系统的安全扫描盲区。现有技能扫描器主要分析文本描述、manifest和源代码，忽略了视觉内容可能携带恶意指令的风险。为此，作者提出了一种名为SkillCamo的多模态隐藏指令攻击方法：攻击
A Red-Team Study of Anthropic Fable 5 & Opus 4.8 Models
该论文对 Anthropic 开发的两个前沿大语言模型（Fable 5 和 Opus 4.8）进行了系统性的红队测试，评估其对抗自动化越狱攻击的鲁棒性。研究使用 HackAgent 红队框架，生成了数十万次对抗性尝试，覆盖四个自动化越狱攻击
Agentra: A Supervisable Multi-Agent Framework for Enterprise Intrusion Response
企业入侵响应仍依赖于静态剧本和安全分析师的手动操作，导致从告警生成到威胁遏制之间存在严重延迟。为此，本文提出Agentra——一个可监督的多智能体入侵响应系统框架。Agentra以MITRE ATT&CK、MITRE D3FEND和NIST
ShellGames: Speculative LLM-Driven SSH Deception
该论文提出 ShellGames，一种基于大语言模型（LLM）的 SSH 壳层模拟器，旨在解决现有网络欺骗技术中难以维持长时间、可信交互式会话的挑战。当前蜜罐等欺骗手段往往缺乏真实性和动态性，容易被攻击者识破。LLM 虽能生成自然对话，但存
Cordon: Semantic Transactions for Tool-Using LLM Agents
本文提出 Cordon，一个专为使用工具的 LLM agent 设计的事务性运行时系统。当前 LLM agent 的运行时将工具调用暴露为独立的 RPC 调用，缺乏任务级执行边界（如提交、回滚、恢复和审计），导致多步 agent 工作流中不
ARVO: Atlas of Reproducible Vulnerabilities for Open-Source Software
该论文针对开源软件漏洞数据集中长期存在的“可重复性、数量、多样性三难困境”问题，提出了一种新的方法，旨在在不牺牲数量和多样性的前提下，大规模实现漏洞的可重复性。作者通过分析现有大规模漏洞复现的主要障碍，并设计通用解决方案，成功将可重复性引入
DoubtProbe: Black-Box Jailbreak Defense via Structural Verification and Semantic Auditing
本文提出了一种针对大型语言模型（LLM）的黑盒越狱防御框架 DoubtProbe。随着 LLM 在用户交互系统中的应用日益广泛，黑盒越狱防御成为一个关键实际问题。现有防御方法通常依赖已知攻击覆盖、提示级语义判断或本地运行时控制，但在不断演变
An Evaluation of Data Leakage Risks in Tool-Using LLM Agents in Realistic Scenarios
本文由新加坡AI安全研究所与韩国AI安全研究所联合进行，系统评估了LLM Agent在非对抗性使用场景下的数据泄露风险。以往研究多关注通过提示注入或越狱实现的对抗性数据外泄，但本文指出，在用户提出正常、非恶意请求时，敏感信息也可能因Agen
Transferable Self-Evolving Playbooks for Agentic Security Auditing
该论文提出了一种名为 EvoHunt 的自主演化框架，用于自动生成和优化 LLM 安全审计代理的剧本（Playbook）。当前基于 LLM 的漏洞发现代理通常由三个组件构成：用于代码分析的 LLM、用于导航和工具调用的代理框架（如 Code
Looking Is Not Picking: An Attention-Segment Account of Tool-Selection Failures in LLM Agents
该论文研究了大型语言模型（LLM）智能体在工具选择过程中的失败机制。通常认为，模型在工具集中未能注意到正确工具是导致错误选择的原因，但论文通过注意力片段分析提出了相反的观点：模型在80%的情况下正确关注到了正确的工具，但依然做出了错误选择。
FEnc$^2$: Unifying Data Packing for Efficient Private Inference via Convolution and Architecture-Aware Fragment Encoding
本文针对基于全同态加密（FHE）的隐私保护机器学习推理中存在的计算和内存开销问题展开研究。现有密文打包策略通常仅保持邻近数据元素或特征分组中的一种，导致密文槽利用率低、旋转操作过多、密文数量膨胀，严重制约了推理效率。为此，作者提出了一种统一
The Proxy Knows Too Much: Sealing LLM API Routers with Attested TEEs
本文研究了大型语言模型（LLM）API路由器存在的安全风险。当AI代理通过API路由器访问LLM时，路由器会终止客户端的传输层安全会话并建立新的上游会话，导致路由器能够获取完整的明文交互内容。这使得路由器成为应用层中间人攻击者：它可以改写代
Loss Landscape Poisoning: Targeted Extraction of Unseen Training Data from LLMs
本文研究了一种针对大型语言模型（LLM）的新型训练数据提取攻击。攻击者通过投毒一小部分训练数据，能够诱导模型泄露一条攻击者无法访问的目标记录（例如私有医疗记录或用户对话）。核心洞察是：通过在目标完成点附近重塑模型的局部损失景观，使其成为尖锐
Dynamic Malicious Skills in Agentic AI
该论文研究了一种针对智能体AI（Agentic AI）的新攻击面——动态恶意技能（Dynamic Malicious Skills）。技能是智能体AI的核心组成部分，通过自然语言文档（如SKILL.md）定义，允许代理动态加载和执行代码。攻
TrustedARI: Towards Trust-Native Agentic Routing Infrastructure for Agentic AI
本文针对AI代理通过代理路由基础设施（ARI）访问外部模型、工具和服务时面临的信任风险，提出了TrustedARI——首个信任原生的代理路由基础设施。ARI架构使得AI代理必须将查询和响应以明文形式暴露给路由中间件，且代理无法验证查询是否被