PatchBench: Evaluating AI Agents for Vulnerability Patching
本文针对基于大语言模型的AI智能体在自动化漏洞修复评估中存在的效度威胁问题开展研究。作者指出，现有评估方法通常仅通过让补丁接受原始PoC（概念验证）输入不再触发崩溃来判定补丁有效，但这种验证方式存在两个主要缺陷：一是智能体可能直接复现历史开
#agent-security
共收录 1542 条相关情报。
← 返回所有主题A Black Box for Agentic Processes: Blockchain-Anchored Evidence for AI Agent Communication, Human Oversight, and GRC Audits
本文由 Arslan Brömme 撰写，是一篇立场与架构论文，针对自主AI代理在相互通信、调用工具、交换中间结果及请求人工审批等流程中产生的全新审计难题。核心背景是 2026 年 OpenAI/Hugging Face 事件所暴露出的痛点
A Blind Trust, the Bloody Thrust: When Attacker-Controlled Hook Updates Steer AI Agent Harnesses towards Malicious Behaviors
现代AI agent harness（智能体框架）通过“生命周期钩子”机制将Shell命令绑定到会话开始、工具调用和文件编辑等运行时事件。这些命令通常以宿主主机权限执行，但它们作为钩子配置分发，且可能在大型语言模型（LLM）从未感知的时刻被
Flip, Don't Shuffle: Watermarking LLMs at the Speed of Inference
该论文提出了一种名为 Stateless Bernoulli Watermarking（SBW）的新型大语言模型（LLM）文本水印方法，旨在以极低的计算开销实现可靠的模型输出标记与检测。与现有方法如 KGW（基于词汇置换和固定大小绿名单）和
AlcaTRAz - Anchored Tree-Rule Defense Against Jailbreaks
该论文针对大型语言模型（LLM）面临的越狱攻击问题，提出了一种名为 AlcaTRAz（Anchored Tree-Rule defense Against jailbreaks）的提示词级别防御方法。越狱攻击通过精心构造的输入绕过模型的安全
Mental Damage: Caption Poisoning Attacks on Retrieval-Augmented Text-to-Music Generation.
本文研究了检索增强式文生音乐（Retrieval-Augmented Text-to-Music, TTM）系统面临的一种新型数据投毒攻击。此类系统在用户提示词不明确时，会从音乐描述数据库中检索相关文字描述（caption）来增强提示，再交
Privacy in Urban Sensing with Instrumented Fleets, Using Air Pollution Monitoring As A Usecase.
本文围绕城市感知场景中的隐私保护问题展开研究。现实中有大量服务型公司（如网约车、电商物流、外卖配送）愿意利用其车辆装备传感器，以低成本、大规模地采集交通拥堵、行驶时间、路面质量、空气质量等城市数据。虽然这些细粒度数据具有巨大的分析价值，但原
NC-Max: Breaking the Security-Performance Tradeoff in Nakamoto Consensus.
该论文聚焦于 Nakamoto 共识（NC，最早由比特币实现）中固有的安全性与性能之间的权衡问题。尽管后续出现了众多替代共识协议，NC 仍是加密货币领域最具影响力的共识协议，但其安全性要求（如出块间隔、区块传播时间等）限制了系统的吞吐量和交
DNAS-Bench: Deterministic Nucleic Acid Screener Benchmarking.
本文提出并开源了一个名为 DNAS-Bench 的确定性基准框架，用于评估生物安全筛选软件（BSS）在核酸合成订单审查中的鲁棒性。研究背景是合成生物学和生物制造快速发展，恶意行为者可能利用商业 DNA/蛋白质合成管线获取受管控的遗传序列，从
Seeing Less Is Not Seeing Safely: Privacy Leakage from Task-Scoped Robot Perception Exports
本文研究家庭机器人在仅在本地位保留原始传感器数据的情况下，其导出的结构化感知表示仍可能造成隐私泄露的问题。作者指出，即使原始数据不出本地，机器人为了导航、规划、云服务、日志或学习而导出的结构化表示，仍可通过语义、几何、空间结构和任务目标等维
SafeEvolve: Harness-Policy Co-Evolution from Agent Experience for Safety Alignment
该论文提出 SafeEvolve，一种面向 LLM 智能体（agent）安全对齐的“经验驱动自进化”框架。研究背景是：基于 LLM 的智能体在完成任务时，其行为由基础模型与交互环境所用的“harness”（即外部工具/提示/技能编排层）共同
ACLE-MCP: Attested Capability Leases for Execution-Time Trust in Remote LLM Tool Use
本文针对远程模型上下文协议（MCP）服务中，大型语言模型（LLM）智能体调用外部工具时的信任缺口问题展开研究。传统上，服务依赖 OAuth 授权来允许智能体调用工具，但 OAuth 仅完成身份与授权层面验证，无法保证后续工具调用确实由依赖方
PrimSynth: An Agentic Approach to Discover, Validate, and Synthesize Exploit Primitives for Linux Kernel Vulnerabilities
本文针对 Linux 内核漏洞利用中抽象策略与具体技术操作之间存在概念鸿沟的问题，提出了一种系统化的漏洞利用原语表征与自动化合成方法。作者首先形式化定义了六类漏洞利用原语，从逻辑能力到可验证效果进行归类；随后提出一种扩展的利用策略表示，将原
Automated Vulnerability Injection in Smart Contracts Using Large Language Models
这篇论文提出了一种利用大型语言模型（LLM）自动向 Solidity 智能合约中注入漏洞的方法，旨在解决智能合约漏洞检测工具评估中“带真实标签数据集稀缺且人工构建困难”的问题。作者以 OpenSCV 分类中的 49 种漏洞类型为目标，对来自
A Finger on the Scale: Covert Policy Steering through Agentic Skills
该论文研究可复用智能体技能（agentic skills）带来的供应链安全风险。可复用技能为LLM智能体提供任务流程、工具使用指导和输出约束，但它们本质上是外部化的行为策略。论文提出一种名为SkillShift的黑盒攻击框架，能够在保持技能
SpiderSapien: Client-Centric Web Crawler and Security Scanner
本文提出 SpiderSapien，一个以客户端为中心的 Web 应用爬虫与安全扫描器，旨在解决现代 Web 应用在客户端侧高度动态和交互性强、导致现有黑盒扫描器无法深入探索深层状态的问题。作者指出，沉浸式交互（immersive inte
CAPTCHAs in the Agentic Era: Solvers That Learn from Every Encounter
随着基于大语言模型（LLM）的智能代理（Agent）逐步渗透网络应用，视觉验证码正面临一种新的机械化威胁。以往专用检测器很慢或只处理固定类别，而视觉语言模型（VLM）能类人地看图识字，但每轮都从零开始推理，并不会从接触中积累经验。本论文提出
Poisoning Attacks on the PGM-index
本论文研究了一种针对学习型索引结构 PGM-index 的投毒攻击方法。PGM-index 是一种基于最优分段线性近似（PLA）的实用学习索引，通过最小化分段数量来提升查询效率。作者首次探讨了这种最优 PLA 本身对恶意数据插入的敏感性，提
Retrosynthesis of Synthetic Media for Explainable AI Provenance Forensics
本文针对机器学习即服务（MLaaS）平台上生成模型快速普及所带来的合成媒体溯源难题，提出了一种无需修改生成器架构或参数的自引用逆合成框架，用于可解释的AI溯源取证。该框架假设生成器固定（fixed-generator setting），通过
Privacy-Preserving Topology-Guided Safety for LLM-Based Multi-Agent Systems via Federated Graph Learning
本文针对基于大语言模型（LLM）的多智能体系统（MAS）在跨组织协作场景下的安全问题，提出了一种隐私保护的拓扑引导安全机制。现有方法通常假设单一运营方可以汇总所有标注轨迹，在全局通信图上训练图神经网络（GNN）以定位高风险智能体并干预拓扑结