Beyond Predefined Sinks: Security-Aware Dependency Analysis for LLM Agents
该论文聚焦 LLM Agent 安全分析中的一个基础性难题：如何判定模型生成的决策是否会真正触达安全敏感能力。现有方法通常以「预定义的敏感操作（sink）」作为分析锚点，例如命令执行、文件系统读写、网络通信、浏览器控制以及外部工具调用等。但
#tool-calling
共收录 10 条相关情报。
← 返回所有主题OverAct: Measuring and Mitigating Proactive Over-Authorization in LLM Tool-Calling Agents
该论文研究大语言模型（LLM）智能体在调用外部工具时的隐私越权行为。作者指出，具备工具调用能力的 LLM 智能体能够访问外部服务与用户私有数据，但在实际运行中，它们往往会检索超出用户请求明确所需范围的信息。作者将这一现象命名为「主动性越权」
Sapien: A Stateful Policy Engine for Autonomous AI Agents
该论文针对自主 AI 智能体（AI Agent）在工具调用场景下的安全问题，提出了一种名为 Sapien 的「有状态策略引擎」。研究背景是：当前主流的上下文安全防御思路，是先让模型根据当前任务即时合成一份任务专属策略，再用这份策略去约束智能
When Valid Tool Calls Change Meaning: Formation-Consistent Dispatch for LLM Agents
该论文聚焦于工具增强型 LLM 智能体(tool-enabled agents)在调用分派环节的一类结构性安全缺陷。作者指出：智能体在生成工具调用时，依据的是模型可见的接口描述(descriptor，即 schema、名称、参数说明)，而宿
JEV as a Judge for Agent Trace Security: An Empirical Comparison with Generative LLM Judges
该论文研究的是「工具型智能体（tool-using agent）行为轨迹的安全判定」这一评测环节本身的可选方案问题。背景是：对会调用外部工具的智能体做安全评估，必须结合上下文判断每一步动作是否构成风险；当前主流做法是让生成式大模型充当裁判（
Persistent Billable State: Denial-of-Wallet Attacks and Defenses in Tool-Calling LLM Agents
该论文研究了多步工具调用型 LLM Agent 中一个此前被忽视的计费安全面。背景是：Agent 依赖宿主运行时（host runtime）在多个回合之间保存状态，而当运行时把外部工具的返回内容再次带入后续模型输入时，服务提供方会对这段内容
Capable yet Parsimonious: Extracting and Characterizing Hidden Chain-of-Thought in Frontier Models
【研究背景】前沿语言模型近年的能力跃升常被归因于推理能力的提升，但在闭源系统中，原始思维链（CoT）轨迹被隐藏，外界无法验证这一说法，也无法审计模型真实的推理过程。【核心问题】如何在不获取模型内部权重或私有日志的前提下，把闭源模型隐藏的中间
Runtime Authorization Consistency Checking for MCP-based Agentic Workflows
该论文聚焦 MCP（Model Context Protocol）驱动的智能体（agentic）工作流中的授权安全问题。此类系统通过多步工具调用访问文件、服务与外部资源来满足用户请求，而现有防护普遍采用“逐调用隔离检查”的方式，即对每一次工
Closed-World Resolution Against Tool Hallucination in LLM Agents
该论文研究的是工具增强型 LLM Agent 中一个被现有方法系统性忽视的失效模式：模型会调用根本不存在的工具，并传入任何 schema 都未声明的参数（即工具幻觉）。作者指出这不是「工具选错」问题，也不是「权限过大」问题——现有防御分两类
Measuring and Exploiting Implicit Trust in LLM Tool-Calling Pipelines
该论文聚焦 MCP（Model Context Protocol）引入的一类被忽视的信任问题。MCP 让 LLM 能调用外部工具，但每一次工具交互都会把攻击者可控的文本通过多条输入通道注入模型：工具描述、工具返回结果、采样（sampling