KaliBench: A Fine-Grained Benchmark for Cybersecurity Tool Use on Kali Linux with Runtime-Free Verifiable Rewards
该论文针对一个被忽视的评测缺口：大语言模型正被越来越多地用于网络安全工作流，需要把分析师的意图翻译成对真实安全工具的调用，但现有评测要么停留在知识问答层面，要么只评估端到端 agent 任务完成情况，并未直接衡量模型为真实网络安全工具生成「
#tool-use
共收录 13 条相关情报。
← 返回所有主题PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents
该论文研究使用工具的大语言模型（LLM）智能体的安全问题。此类智能体把生成文本转化为真实副作用，因此被污染的工具元数据、检索页面、记忆或可复用技能，都可能操纵下一次工具调用。作者指出，仅在准入前审查工件无法解决该问题：一个安全变体与一个泄密
ToolFence: Fine-Grained Authorization for Secure Tool-Using LLM Agents
该论文关注工具调用型 LLM Agent 面临的一个根因性问题：在单一上下文窗口中，来自用户的「可信指令」与来自外部环境的「不可信观测」（网页、邮件、工具返回内容等）混杂在一起，因此间接提示注入可以借观测内容劫持 Agent 的推理，甚至反
SEAD: A State-Based Perspective on Attack and Defense in Tool-Using Agents
该论文《SEAD: A State-Based Perspective on Attack and Defense in Tool-Using Agents》针对工具调用型语言模型智能体（tool-using agents）提出了一种以「状
Progressive Skill Discovery as Access Control for Tool-Using LLM Agents: Structural Governance through Role-Scoped Capability Delivery
该论文研究的是 LLM 智能体在企业级大规模工具集环境下的安全可扩展性问题。作者指出，若让智能体直接访问全部内部工具，会带来三个后果：上下文窗口被撑爆、工具选择质量下降，以及严重的治理漏洞——因为仅写在提示词里的系统策略本质上是概率性建议，
Control-Token Injection Suppresses Chain-of-Thought and Defeats Reasoning-Based Oversight in Tool-Using Agents
该论文挑战了当前 LLM 智能体安全的一个默认假设：工具调用型智能体的安全性常被视为模型本身的属性。作者用全精度、可控的实验证明，安全性实际上是「模型 + 解码与渲染链路（chat template 渲染、工具调用解析器）」的联合属性，且这
ActGov: Governing LLM Agent Actions via Policy-Constrained Validation
该论文针对 LLM 智能体在长周期、工具调用型工作流中的授权失控问题提出运行时治理框架 ActGov。研究背景是：智能体通过外部工具执行多步任务时，工具返回的不可信内容（如网页、文档、第三方 API 输出）会作为上下文回流进模型，进而影响后
ASLEval: Measuring Privacy Exposure Displacement in LLM Agent Sessions
该论文关注工具调用型 LLM 智能体（tool-using LLM agent）的隐私评估方法学缺陷。现有评估通常只检查某个被指定的动作、最终回复或攻击者报告，这类局部代理（local proxy）在多步会话中容易漏掉发生在其他位置的未授权
Universal Defenses for Tool-Integrated LLM Agents Against Adversarial Attacks
大型语言模型（LLM）智能体在集成外部工具后可完成多步复杂任务，能力显著提升，但其对提示的开放性以及对工具的操控能力也带来了新的攻击面。本文聚焦四类针对工具集成 LLM 智能体的对抗攻击：直接提示注入、间接提示注入、记忆投毒与后门攻击，并尝
ActGuard: Pre-execution Action Auditing against Indirect Prompt Injection in LLM Agents
该论文关注 LLM Agent 在调用外部工具时面临的间接提示注入（Indirect Prompt Injection, IPI）风险：由于 Agent 需要读取网页、文件、API 返回等外部内容，攻击者可将恶意指令埋入这些工具输出中，诱导
The Framing Gap: Indirect Prompt-Injection Exfiltration Defeats Surface-Level Defenses in Tool-Using Agents
本文研究工具型 LLM 代理在面对间接提示注入攻击时的防御失效问题。所谓间接提示注入，是指代理在读取攻击者控制的网页内容时，这些内容可能诱使代理泄露其持有的机密信息。作者在安全合成实验室环境中（包含金丝雀机密、模拟工具以及匹配的干净/投毒指
Guardrails as Scapegoats: Auditing Unfaithful Safety Refusals in Tool-Augmented LLM Agents
该论文研究了工具增强型大语言模型（LLM）Agent在面对静默基础设施故障时的行为，特别是当外部工具返回HTTP 200响应但payload为空、null或畸形时。现有评估框架主要关注能力指标或显式工具崩溃，忽略了这类静默失败。作者提出了一
AgentGuard: An Attribute-Based Access Control Framework for Tool-Use LLM-Based Agent
本文提出一个名为AgentGuard的基于属性的访问控制框架，旨在解决基于大语言模型（LLM）的智能体在自主调用工具时面临的安全风险。LLM智能体能自动调用多种工具完成复杂任务，但现有应用存在隐私泄露、财产损失甚至系统被完全控制的风险。Ag