Can a Single Message Paralyze the AI Infrastructure? The Rise of AbO-DDoS Attacks through Targeted Mobius Injection
该论文提出了一种针对基于大语言模型（LLM）的智能体系统的新型攻击范式，称为 Mobius Injection，可引发基于智能体的面向服务的分布式拒绝服务（AbO-DDoS）攻击。作者发现智能体逻辑中存在的结构漏洞“语义闭合”（Semant
#cs.AI
共收录 1684 条相关情报。
← 返回所有主题Under the Hood of SKILL.md: Semantic Supply-chain Attacks on AI Agent Skill Registry
本文研究了自治AI代理（Agent）技能注册机制中的语义供应链攻击。AI代理通过Agent Skills（模块化文件系统包）扩展能力，其中SKILL.md文件描述了技能的使用条件和方式。这种设计虽然实现了可扩展的能力扩展，但引入了语义供应链
Options, Not Clicks: Lattice Refinement for Consent-Driven MCP Authorization
随着模型上下文协议（MCP）在AI代理中的广泛采用，如何确保工具调用通过有意义的用户同意来保障安全成为关键挑战。现有方法要么采用粗粒度的“始终允许”开关，要么依赖不透明的LLM决策，既无法检测危险的调用参数，又容易导致用户同意疲劳。本文提出
Natural Language based Specification and Verification
该论文针对大型语言模型（LLM）生成代码中可能引入安全漏洞的问题，提出了一种基于自然语言的规约与验证方法。传统形式化验证需要严格的规约语言，而现有利用LLM生成规约的方法效果有限。作者另辟蹊径，探索让LLM同时承担规约生成和组合验证的任务，
Comment and Control: Hijacking Agentic Workflows via Context-Grounded Evolution
该论文研究了自动化平台（如GitHub Actions和n8n）中集成的大语言模型（LLM）智能代理工作流的安全风险。随着这些平台越来越多地采用所谓的“代理工作流”（agentic workflows），即让LLM代理执行代码审查、数据同步
Leveraging RAG for Training-Free Alignment of LLMs
本文研究了大语言模型（LLM）的安全对齐问题。传统的对齐算法通常需要基于偏好对进行后训练，虽然广泛用于设置安全护栏并与人类偏好对齐，但计算开销大，且对于最新的智能体攻击（agentic attacks）的拒绝能力不足。为此，作者提出了一种基
Continuous Discovery of Vulnerabilities in LLM Serving Systems with Fuzzing
该论文提出了GRIEF，一种面向LLM推理引擎的灰盒模糊测试工具，旨在发现服务层漏洞。当前LLM推理引擎（如vLLM、SGLang）引入了KV缓存、批处理、前缀共享、推测解码、适配器和多租户调度等机制，这些共享状态行为仅在真实并发工作负载下
Adversarial SQL Injection Generation with LLM-Based Architectures
本文针对SQL注入（SQLi）攻击这一长期位列OWASP Top 10的安全威胁，探索利用大型语言模型（LLM）自动化生成对抗性SQL注入测试载荷的方法。作者提出了两种新型基于LLM的系统：RADAGAS（基于检索增强生成的对抗性SQLi生
Benchmarking LLM-Based Static Analysis for Secure Smart Contract Development: Reliability, Limitations, and Potential Hybrid Solutions
该论文针对基于大型语言模型（LLM）的静态分析在智能合约安全开发中的可靠性和局限性进行了系统基准测试。研究背景是区块链交易的不可逆性使得智能合约漏洞检测成为安全开发的必备环节，而LLM虽被越来越多地集成到开发者工作流中，其作为自主安全审计工
ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks?
该论文提出了ExploitGym，一个用于评估AI代理漏洞利用能力的大规模、多样化、逼真的基准测试平台。随着AI代理能力的快速提升，其可能显著重塑网络安全格局，因此需要严格的评估。漏洞利用是将一个尚未成为攻击的漏洞转化为具体安全影响（如未授
Engineering Robustness into Personal Agents with the AI Workflow Store
该论文对当前主流AI代理（AI agent）的“即时合成”（on-the-fly）范式提出了批评，认为该范式绕过了软件工程（SE）中严谨的迭代设计、测试、对抗评估、分阶段部署等流程，导致AI代理在实际高风险场景中可能输出不稳定的原型系统，而
BEACON: A Multimodal Dataset for Learning Behavioral Fingerprints from Gameplay Data
本文介绍了 BEACON（Behavioral Engine for Authentication & Continuous Monitoring），一个大规模多模态数据集，旨在支持高保真游戏环境下的行为生物特征认证研究。背景方面，现有连续
From Controlled to the Wild: Evaluation of Pentesting Agents for the Real-World
本文提出了一种面向真实世界场景的AI渗透测试代理评估协议。现有基准测试（如夺旗、远程代码执行、漏洞复现、轨迹相似度等）通常在简化或狭窄环境中评估代理，无法充分体现真实渗透测试中的复杂性、开放性探索和战略决策需求。作者设计的新协议将评估从任务
Threat Modelling using Domain-Adapted Language Models: Empirical Evaluation and Insights
本论文对领域自适应语言模型在结构化威胁建模任务中的有效性进行了系统性的实证评估。研究聚焦于5G安全场景，采用STRIDE威胁分类方法，共使用52种不同配置（涵盖8种语言模型）进行实验。核心变量包括：1）领域自适应（电信与网络安全领域）与否、
Can You Keep a Secret? Involuntary Information Leakage in Language Model Writing
该论文研究了前沿语言模型在写作任务中是否能够保守秘密。作者给每个模型一个秘密词，要求模型在写故事时不要泄露该词，然后使用另一个模型通过二分类测试来判断故事是否包含该秘密。尽管秘密词从未以字面形式出现在输出中，但所有五个测试的前沿模型都以显著
MATRA: Modeling the Attack Surface of Agentic AI Systems -- OpenClaw Case Study
随着大型语言模型（LLM）被部署为具备访问工具、数据库和外部服务能力的自主智能体（Agent），不同行业从业者缺乏系统的方法来评估已知威胁类别如何在特定智能体部署中转化为具体风险。本文提出MATRA，一个针对智能体AI系统的实用威胁建模框架
diffGHOST: Diffusion based Generative Hedged Oblivious Synthetic Trajectories
本文提出了一种名为 diffGHOST 的基于扩散模型的条件生成框架，用于合成移动轨迹数据，旨在解决轨迹数据在共享和利用过程中的隐私泄露问题。传统的轨迹合成方法往往隐式地假设生成模型具有隐私保护能力，但缺乏严格的隐私保证，且容易在生成的轨迹
Re-Triggering Safeguards within LLMs for Jailbreak Detection
该论文提出了一种针对大型语言模型（LLM）的越狱提示检测方法，旨在防御越狱攻击。尽管当前LLM已内置安全机制，但攻击者仍可能构造绕过这些机制的越狱提示。作者认为此类越狱提示本质上具有脆弱性，因此引入了一种嵌入扰动（embedding dis
Guaranteed Jailbreaking Defense via Disrupt-and-Rectify Smoothing
本文提出了一种针对大型语言模型 (LLM) 的保证性越狱防御方法——Disrupt-and-Rectify Smoothing (DR-Smoothing)。该方法受对抗防御领域中去噪平滑技术的启发，将两阶段提示处理方案（先干扰输入提示，再
Acceptance Cards:A Four-Diagnostic Standard for Safe Fine-Tuning Defense Claims
该论文提出了一种名为“Acceptance Cards”的评估标准，用于验证安全微调防御声明的有效性。当前，许多安全微调防御方法仅通过持出集（held-out gap）的减少来证明其有效性，但作者指出，这种减少可能源于采样噪声、主体伪影、能