Control the Harness, Control the Cost: Routing and Governing AI Coding Agents in the Enterprise
论文关注企业大规模部署 AI 编码智能体（coding agent）所带来的成本与治理问题。所谓 harness，指运行 AI 编码智能体的产品（如 Anthropic 的 Claude Code、OpenAI 的 Codex），企业通常不
#cs.AI
共收录 1652 条相关情报。
← 返回所有主题On the Effectiveness of Kernel-Level Evidence for Agent Security
该论文聚焦于 LLM Agent 安全监测中的一个关键盲区：当前绝大多数 Agent 安全基准与防护方案都建立在应用层遥测之上，即所暴露的工具清单（tool manifest）、用户提示词以及模型消息序列。作者指出，这种单层视角存在结构性缺
Blockchain-Enabled Artificial Intelligence and AI Agents for Secure Data Sharing and Cybersecurity Applications
本文是一篇面向区块链与人工智能融合方向的元综合（meta-synthesis）论文，作者 Harsh Verma 将四项既有研究整合进统一的分析框架：对抗性机器学习（训练数据与模型行为的完整性）、云环境中的 AI 驱动异常检测（实时监控的可
Progressive Skill Discovery as Access Control for Tool-Using LLM Agents: Structural Governance through Role-Scoped Capability Delivery
该论文研究的是 LLM 智能体在企业级大规模工具集环境下的安全可扩展性问题。作者指出，若让智能体直接访问全部内部工具，会带来三个后果：上下文窗口被撑爆、工具选择质量下降，以及严重的治理漏洞——因为仅写在提示词里的系统策略本质上是概率性建议，
Decision Hijacking: Prompt Injection Attacks on Jev's Typed Probabilistic Decisions
本文研究提示注入（prompt injection）对非生成式决策模型 Jev 的影响。以往关于提示注入的研究大多聚焦生成式智能体，而对于采用 schema 定义输出（即输出被约束在固定类型化动作集合内）的模型是否同样受影响，目前尚不明确。
Persistent Billable State: Denial-of-Wallet Attacks and Defenses in Tool-Calling LLM Agents
该论文研究了多步工具调用型 LLM Agent 中一个此前被忽视的计费安全面。背景是：Agent 依赖宿主运行时（host runtime）在多个回合之间保存状态，而当运行时把外部工具的返回内容再次带入后续模型输入时，服务提供方会对这段内容
Where Cyber Agents Struggle: Bottleneck Analysis of Multi-Stage LLM Agents
该论文针对多阶段 LLM 网络代理（multi-stage LLM-based cyber agents）的评测方法提出批评与改进：仅看任务成功率会掩盖代理的低效、依赖重试的适应性，以及对执行证据的错误解读。作者对一个“自主对抗代理”系统做
Who Is Behind the Harness? Fingerprinting LLMs through Agentic Behavior
该论文关注一个新兴且具有安全含义的问题：大语言模型（LLM）正越来越多地通过 coding-agent harness（编码智能体脚手架）来运行，这类脚手架会检查代码仓库、调用工具并修改文件。因此，替换智能体背后的模型，可能会改变与安全相关
Issuer-Sovereign Agentic Payments
该论文关注 AI agent 开始自主发起真实支付这一新兴场景，指出现有主流实现方式存在一个结构性缺陷：agent 完成支付时依赖某个凭证提供方（credential provider），而该提供方在当前已部署的方案中通常位于持卡人银行（发
Multi-View Fusion for Encrypted C2 Detection: A Leakage-Controlled Measurement Study of Evaluation Pitfalls
该论文针对加密C2流量检测中常见的多视图融合假设展开实证研究。作者指出，随着C2流量越来越多地隐藏于TLS，防御方常用流统计特征与TLS握手指纹两类元数据训练机器学习模型，并普遍认为二者融合可同时提升准确率与鲁棒性。为验证该假设，研究者使用
The Like Trap: Multi-Stage Poisoning against Agents in Similarity-based Recommendation Systems
随着大语言模型及其驱动的智能体（agent）能力增强，这些智能体日益自主化，并可代表用户在互联网上执行操作，例如自动管理用户的社交媒体账号。然而，部署在社交平台上的自动化智能体自身的脆弱性研究仍不充分。现有关于智能体投毒的研究通常假设攻击者
When Clients Are Orchestrated: Strategic Gradient Manipulation to Defeat Federated Learning Servers with Efficient Defense
该论文关注联邦学习(FL)中一类被现有防御忽视的威胁模型。传统 FL 防御普遍假设攻击者是静态的、彼此独立的(例如固定比例的投毒客户端或互不配合的恶意节点),因此可以依靠单客户端行为异常或鲁棒聚合规则将其过滤。作者指出这一假设可被"动态自适
Topological Signatures of Cyber-Attack Classes in Natural Visibility Graph Representations of Network Traffic
该研究关注网络流量序列的图结构表示与攻击类别识别之间的关系。背景上，自然可见图（Natural Visibility Graph, NVG）能把一维时间序列映射为图结构：序列中的每个观测点成为节点，若两点之间存在不受中间点遮挡的可见关系则连
Ajar: Measuring Open Privilege in Agent Defenses
该论文研究语言模型代理(LM Agent)的权限边界测量问题。Agent 只能通过被赋予的工具行动，而它在完成任务时读取的数据可能改变它对工具的调用方式，这正是间接提示注入的成因。因此近年来出现了一批安全执行技术，部署在 Agent 与工具
A2M: Trace-Optimized Agent Hijacking in the MCP Ecosystem
该论文研究 Model Context Protocol (MCP) 生态中的一类语义供应链风险：使用 MCP 的智能体（agent）在从第三方 MCP 服务器挑选工具时，主要依赖工具名称、描述等元数据与用户意图之间的语义匹配，而元数据和工
Metrics Failure in LLM-Based Code Vulnerability Repair: An Empirical Study and a Change-Aware Screen
该论文针对 LLM 自动修复 C/C++ 安全漏洞这一研究方向，质疑了当前广泛使用的评测指标——"编译率"（compile rate，即生成的补丁能否通过编译）作为单函数漏洞修复进展代理指标的可靠性。作者使用 203 个来自 Big-Vul
From Alignment to Access Control: A Framework for GenAI Policy Enforcement
随着生成式 AI（GenAI）应用的快速普及，用户不仅能用自然语言与大型语言模型对话，还能构建可代表自己执行多种任务的智能体（agent）。然而该领域的能力迭代速度极快，安全与保障机制的建设明显滞后，已经导致真实的安全事件发生。作者指出，“
Capable yet Parsimonious: Extracting and Characterizing Hidden Chain-of-Thought in Frontier Models
【研究背景】前沿语言模型近年的能力跃升常被归因于推理能力的提升，但在闭源系统中，原始思维链（CoT）轨迹被隐藏，外界无法验证这一说法，也无法审计模型真实的推理过程。【核心问题】如何在不获取模型内部权重或私有日志的前提下，把闭源模型隐藏的中间
Comparative Evaluation of Static Embedding Models for HTTP Request Anomaly Detection
该论文面向 Web 应用安全中的 HTTP 请求异常检测问题。作者指出，传统 Web 应用防火墙（WAF）主要依赖人工规则，存在误报率高、对新型攻击与业务变化适应性差的问题；已有研究尝试用机器学习与词嵌入模型改善检测效果，但不同嵌入模型之间
On the security and privacy of LLMs in Mobility
该论文《On the security and privacy of LLMs in Mobility》由 Mauro Conti、Lorenzo Perinello 与 Umberto Salviati 撰写，属于 cs.AI 分类，是一