Divide, Consult, Conquer: Capability Laundering Through Aligned LLMs
这篇论文指出，当前语言模型安全评估普遍以“单次交互”为单位，即判断某一条请求/响应是否有害；而这种评估范式忽略了一个结构性缺口：能力可以被拆分、外借并在本地重新组合。作者提出并命名了这种攻击范式为“能力洗白（capability laund
#agent-security
共收录 1542 条相关情报。
← 返回所有主题CounterPersona: Append-Only Defense Against Unauthorized Persona Skill Distillation
该论文关注的是「人格技能蒸馏」（persona skill distillation）带来的隐私与劳动自主权风险：攻击者可以从个人历史信息（如文本、对话、行为记录）中提取反复出现的行为模式，把它们编码成可复用的技能，从而让 AI 系统高度复
Pick Your Poison: Learning to Select Poison Sets for Stronger LLM Backdoor Attacks
该论文聚焦大语言模型微调阶段的后门数据投毒评估方法学。传统后门研究通常固定投毒样本数量，再从候选数据池中随机抽取投毒集合，并据此估计模型的最坏情况脆弱性。作者指出这种做法会严重低估真实风险：在三个基于 LLaMA-3-8B 的后门实验设置中
ActGuard: Pre-execution Action Auditing against Indirect Prompt Injection in LLM Agents
该论文关注 LLM Agent 在调用外部工具时面临的间接提示注入（Indirect Prompt Injection, IPI）风险：由于 Agent 需要读取网页、文件、API 返回等外部内容，攻击者可将恶意指令埋入这些工具输出中，诱导
AcquireBound: Runtime Authorization for Resources Acquired by AI Agents
该论文聚焦一个此前被忽视的授权盲区：自主 AI 智能体在执行任务过程中会「获取(acquire)」计算资源、凭证、账户、外部服务乃至其他智能体，这些被获取的对象一旦返回，就会给原任务引入新的权限。作者指出，现有的支付校验、预算控制、OAut
LLM Agent Capabilities Should Follow Task Intent and Context Source
该论文关注 LLM Agent 在执行真实动作（运行代码、修改文件、调用外部服务、委派子任务）时的权限最小化问题。与传统系统中「能力预先定义」不同，Agent 真正需要的最小权限是动态的，取决于其「任务意图」——它想做什么、以何种方式做。驱
AI Deployment Accountability Engineering: A Vision for Accountable AI in Safety-Critical Socio-Technical Systems
这是一篇来自 arXiv 的立场/愿景论文（vision paper），作者为 Murat Kantarcioglu，归类于 cs.AI 与 cs.CY。论文指出，AI 系统正快速成为医疗、金融、公共服务等安全关键（safety-criti
The Deception Delta: Adversarial Evaluation of LLM-Based Smart Contract Bytecode Forensics
该论文系统评估了大型语言模型在区块链取证场景中解读未验证智能合约字节码时的鲁棒性。作者构造了 13 个目的性设计的合约（其中 9 个为欺骗向量、4 个为功能匹配的对照组），并在 6 种提示策略下测试 22 个前沿模型，最终得到 8,528
BlueSTAR: Tiered Agentic Architecture for Autonomous Cyber Defense
该论文针对当前网络攻防节奏失衡的现实问题展开研究：攻击行为日益自动化，人类分析师可用于检测、推理与响应的窗口被大幅压缩。大语言模型（LLM）因具备关联异构证据、对未见威胁进行推理的能力，被视为实现自主网络防御的潜在基础，但直接把 LLM 接
Signing the Transaction but Not the Decision: Whisper Attacks and a Binding Defense for AP2
该论文关注自主软件代理代替用户进行购物与支付的场景。当前主流的代理支付协议（如 AP2）会对已完成的购买生成密码学有效的签名，但这些签名只保证交易动作在协议层面合法，并不约束代理形成该决策的过程。由此产生一个结构性缺口：普通的商品描述文本即
From Intent to Execution Grant: An Execution-Boundary Conformance Profile for High-Risk AI Actions
该论文关注高自主性 AI 代理在提出具有外部后果的动作（如资金转账、基础设施变更、软件部署、信息披露、物理执行器操作）时，从"候选动作"到"真正获得执行权限"这最后一跳缺乏统一语义契约的问题。作者指出，现有的授权引擎、策略语言、运行时监控、
terms.txt: A Consent and Compensation Protocol for Agentic Web Access
该论文针对「AI 爬虫与智能体正在瓦解开放互联网默认契约」这一现实问题，提出了一套面向机器访问的授权与补偿协议。作者首先指出现状：开放网络长期依赖一项未写入合同的默契——网站允许爬虫抓取，搜索引擎以回送访客作为回报。公开测量数据显示这一默契
BenchShield: Formal Model-Backed Instrumentation for Reward Integrity in LLM-Agent Evaluation Infrastructure
本文针对 LLM 智能体（LLM-Agent）评测基础设施中的奖励劫持（reward hacking）问题，提出了一套名为 BenchShield 的模型化插桩与检测框架。背景在于：当前的智能体基准测试已经从静态问答演变为交互式评测基础设施
The Missing Boundary: How Autonomous Agents Lose Control
该论文研究自主智能体在长程任务中「越界」的成因。智能体越来越多地使用工具、维护持久状态并执行有实际后果的动作，随之而来的根本问题是：在什么条件下，一个仍在追求合法任务的智能体会越过「已授权执行」的边界？已有研究通常把这类失控归因于对抗性指令
DriftNet: A Dual-Head Trajectory Transformer for Detecting and Localizing Prompt Injection in LLM Agents
该论文关注 LLM 智能体（Agent）面临的间接提示注入（indirect prompt injection）检测难题。作者指出，当注入攻击成功时，攻击痕迹会体现在 Agent 自身的行为轨迹上：一段正常的工具调用前缀、一个被投毒的观测结
A2ABreak: Systematic Security Analysis of the A2A Protocol
该论文《A2ABreak: Systematic Security Analysis of the A2A Protocol》针对由 Linux 基金会治理、正在成为多智能体生态水平通信层的 Agent2Agent（A2A）协议开展首次系统
No-Box Vulnerability Analysis: Description-only Detection of Indirect Prompt Injection Vulnerabilities in MCP Servers
传统漏洞分析通常依赖对目标系统的访问权限或与其动态交互，但在第三方分析师审计闭源、远程托管、关键在役系统或商业受限软件时，这两类条件往往都不具备。为此，论文提出一种新的分析范式——无盒漏洞分析（no-box vulnerability an
Big Enough to Break Out: Tracking the Rising Capability of LLM Penetration-Testing Agents
本文对基于大语言模型（LLM）的自动化渗透测试智能体（pentest agent）能力演进做了实测跟踪。作者选取两个都构建于 PentestGPT 之上的系统进行对比：一个是较早期的、采用人在回路（human-in-the-loop）模式的
Beyond Static Guarantees: Measuring the Static-Pass Dynamic-Fail Gap in Security-Sensitive and LLM-Generated Python Code
该论文提出并量化了「静态通过、动态失败」（Static-Pass Dynamic-Fail, SPDF）现象：代码通过了静态安全扫描，但在真实运行时仍可被利用。作者指出，静态分析因可扩展、可复现、成本低，被广泛当作软件供应链与 AI 生成代
Architecting the Secure AI-SOC: A Neurosymbolic Framework for Pipeline Integrity and Threat Mitigation
该论文聚焦于大语言模型（LLM）被引入安全运营中心（SOC）后所引入的新型攻击面。作者指出，将 LLM 用于威胁情报的聚合、解读与优先级排序虽然显著提升了分析效率，但同时也打开了间接提示注入（indirect prompt injectio