Automated Code Annotation with LLMs for Establishing TEE Boundaries.
该论文研究了如何利用大语言模型（LLM）自动为代码添加注释，以确定可信执行环境（TEE）的边界。在TEE开发中，正确识别和标记边界代码至关重要，但传统上依赖人工手动注释，不仅耗时且容易出错。作者提出了一种自动化框架，通过微调LLM来理解代码
#agent-security
共收录 1542 条相关情报。
← 返回所有主题ThinkTrap: Denial-of-Service Attacks against Black-box LLM Services via Infinite Thinking.
大语言模型（LLM）已广泛应用于自然语言理解与生成、具身智能及科学发现等领域。随着计算需求增长，这些模型越来越多地以云服务形式部署，用户通过互联网访问。然而，这种部署模式引入了一种新的威胁：通过无限推理进行的拒绝服务（DoS）攻击。攻击者精
LLMBisect: Breaking Barriers in Bug Bisection with A Comparative Analysis Pipeline.
该论文提出LLMBisect，一种基于大语言模型（LLM）的自动化Bug二分定位比较分析流水线。传统的Bug二分定位依赖人工查看代码或手动执行测试，效率低下且容易出错。LLMBisect通过将Bug描述、代码差异和测试结果输入LLM，让模型
Benchmarking and Understanding Safety Risks in AI Character Platforms.
本文对AI角色平台（允许用户与AI人格进行对话的快速发展的应用领域）进行了首次大规模安全研究。研究评估了16个主流平台，使用涵盖16个安全类别的5000个问题的基准集。结果显示，AI角色平台的平均不安全响应率高达65.1%，远高于基线的17
Achieving Zen: Combining Mathematical and Programmatic Deep Learning Model Representations for Attribution and Reuse.
该论文提出了一种名为Zen的框架，旨在解决深度学习模型在反汇编和逆向工程中的表示问题，特别是针对模型归因（attribute）和重用（reuse）场景。当前，深度学习模型在二进制代码分析中的应用日益广泛，但模型本身通常以黑盒形式提供，缺乏可
Beyond Raw Bytes: Towards Large Malware Language Models.
该论文提出了一种超越传统基于原始字节的恶意软件分析方法，旨在构建专门用于恶意软件分析的大型语言模型（LLM）。传统方法通常将恶意软件视为字节序列，但忽略了其结构化和语义信息。本文探索通过将恶意软件转换为中间表示（如指令序列、控制流图等），并
Misrouter: Exploiting Routing Mechanisms for Input-Only Attacks on Mixture-of-Experts LLMs
本文研究针对混合专家（MoE）架构大语言模型的输入仅攻击。MoE通过稀疏路由机制扩展模型规模，但路由过程可能成为新的攻击面。以往攻击需修改模型参数，仅适用于本地部署；而现实中的LLM服务通过远程API提供，攻击者仅能操控输入。作者提出Mis
Redefining AI Red Teaming in the Agentic Era: From Weeks to Hours
本文针对当前AI红队测试过程中存在的效率低下问题，提出了一种基于智能体的自动化红队框架。研究背景是：AI系统在医疗、金融、国防等关键领域广泛应用，但面临对抗性攻击威胁。现有红队方法依赖于手动操作和特定于库的工作流程，安全人员需花费数周时间手
Generating Proof-of-Vulnerability Tests to Help Enhance the Security of Complex Software
该论文针对现代软件开发中广泛使用第三方库（Lib）所带来的供应链安全风险问题，提出了一种名为PoVSmith的新方法，用于自动生成可执行的漏洞验证测试（PoV tests）。当前开发者通常需要具体的、可执行的证据来判断一个依赖漏洞是否对其应
MOSAIC-Bench: Measuring Compositional Vulnerability Induction in Coding Agents
本文提出 MOSAIC-Bench (Malicious Objectives Sequenced As Innocuous Compliance) 基准测试，用于评估编码代理在分解为常规工程工单时诱导组合漏洞的能力。现有安全对齐方法通常仅
The Infinite Mutation Engine? Measuring Polymorphism in LLM-Generated Offensive Code
该论文研究了大型语言模型（LLM）在生成恶意代码时的多态能力。传统上，恶意软件作者使用多态技术产生同一恶意软件家族的变种，以逃避基于签名的检测。随着生成式AI融入攻击工具链，攻击者可以利用LLM合成行为相同但结构多样的载荷，但此前缺乏对LL
MEMSAD: Gradient-Coupled Anomaly Detection for Memory Poisoning in Retrieval-Augmented Agents
本文研究了当LLM代理配备持久化外部记忆（如检索增强生成RAG）时面临的安全威胁，并首次形式化描述了记忆投毒攻击。作者将攻击建模为Stackelberg博弈，并在三个攻击类别（逐步放宽访问权限假设）的统一评估框架下进行验证。首先，作者纠正了
ARGUS: Defending LLM Agents Against Context-Aware Prompt Injection
随着大型语言模型（LLM）代理的兴起，其通过集成工具调用、技能和外部知识，显著提升了自动化能力，但也引入了新的安全风险。其中，提示注入攻击（Prompt Injection）已成为主要威胁：攻击者将恶意指令嵌入代理工作流中，劫持代理行为。然
SkCC: Portable and Secure Skill Compilation for Cross-Framework LLM Agents
本文提出 SkCC，一个面向跨框架 LLM Agent 的技能编译框架。当前，LLM Agent 技能通常以 SKILL.md 规范封装，但不同 Agent 框架对提示格式的敏感性差异极大，导致性能波动高达 40%，而社区中超过三分之一的技
Mechanized Type Safety for Gradual Information Flow.
本文研究了如何在证明助手中对一种具有渐进信息流标签的安全类型语言进行形式化建模。渐进信息流标签允许在类型系统中动态调整安全级别，从而在编译时静态检查和运行时动态检查之间取得平衡。作者首先给出了该语言的定义解释器语义，并在证明助手中实现，然后
MAGE: Safeguarding LLM Agents against Long-Horizon Threats via Shadow Memory
随着大语言模型驱动的智能体（LLM agents）被部署到复杂的现实世界任务中，它们面临一类日益增长的攻击：利用扩展的用户-智能体-环境交互，在单轮对话中难以实现的恶意目标。这类“长程威胁”对关键领域智能体的安全部署构成重大风险。本文提出M
Self-Mined Hardness for Safety Fine-Tuning
该论文提出了一种针对语言模型安全微调的新方法：自我挖掘困难样本（Self-Mined Hardness）。传统安全微调通常需要人工构造对抗性数据集，而本文另辟蹊径，通过评估模型自身对每个候选提示的响应被判定为有害的频率来衡量该提示的难度，然
When Agents Handle Secrets: A Survey of Confidential Computing for Agentic AI
本文是一篇关于机密计算（Confidential Computing, CC）如何保障自主AI代理系统安全的综述。随着LLM驱动的代理系统（如基于MCP和A2A协议进行规划、调用工具、维持持久内存以及委托任务的系统）的兴起，其暴露的攻击面显
Dependency-Aware Privacy for Multi-turn Agents
本文研究多轮交互场景下LLM智能体的隐私保护问题。现有基于度量差分隐私的提示清洗器将每次服务调用视为独立发布，但攻击者可通过跨轮联合观测恢复隐私属性，导致隐私随发布次数增加而衰减。作者指出这种退化是根本性的：当隐私属性是计算图的根节点时，对
HackerSignal: A Large-Scale Multi-Source Dataset Linking Hacker Community Discourse to the CVE Vulnerability Lifecycle
HackerSignal是一个大规模的网络安全威胁情报基准数据集，旨在解决时间分布外（temporal out-of-distribution）的跨来源CVE关联问题。该数据集聚合了来自64个公共论坛/来源标识符的745万条精确去重文档，涵