Decaf: Improving Neural Decompilation with Automatic Feedback and Search
反编译器是逆向工程中用于从编译后的二进制代码重构源代码的重要工具。然而，由于编译器在将人类可读的代码转换为低级机器码时，会丢失高级语法、标识符和自定义数据类型等信息，因此从编译后的二进制代码中重构源代码是一项具有挑战性的任务。传统的确定性反
#LLM
共收录 2152 条相关情报。
← 返回所有主题Digital Identity for Agentic Systems: Toward a Portable Authorization Standard for Autonomous Agents
该论文探讨了企业AI从副驾驶向自主代理转变过程中面临的授权挑战。随着自主代理能够跨组织边界执行工作流、协商结果并做出决策，传统的身份验证机制已不足以确保安全。论文指出，代理的授权必须明确、可约束、可审计、可撤销，并且能被独立接收方一致解释。
Can a Single Message Paralyze the AI Infrastructure? The Rise of AbO-DDoS Attacks through Targeted Mobius Injection
该论文提出了一种针对基于大语言模型（LLM）的智能体系统的新型攻击范式，称为 Mobius Injection，可引发基于智能体的面向服务的分布式拒绝服务（AbO-DDoS）攻击。作者发现智能体逻辑中存在的结构漏洞“语义闭合”（Semant
Under the Hood of SKILL.md: Semantic Supply-chain Attacks on AI Agent Skill Registry
本文研究了自治AI代理（Agent）技能注册机制中的语义供应链攻击。AI代理通过Agent Skills（模块化文件系统包）扩展能力，其中SKILL.md文件描述了技能的使用条件和方式。这种设计虽然实现了可扩展的能力扩展，但引入了语义供应链
Options, Not Clicks: Lattice Refinement for Consent-Driven MCP Authorization
随着模型上下文协议（MCP）在AI代理中的广泛采用，如何确保工具调用通过有意义的用户同意来保障安全成为关键挑战。现有方法要么采用粗粒度的“始终允许”开关，要么依赖不透明的LLM决策，既无法检测危险的调用参数，又容易导致用户同意疲劳。本文提出
Natural Language based Specification and Verification
该论文针对大型语言模型（LLM）生成代码中可能引入安全漏洞的问题，提出了一种基于自然语言的规约与验证方法。传统形式化验证需要严格的规约语言，而现有利用LLM生成规约的方法效果有限。作者另辟蹊径，探索让LLM同时承担规约生成和组合验证的任务，
Context-Aware Spear Phishing: Generative AI-Enabled Attacks Against Individuals via Public Social Media Data
该研究系统地展示了如何滥用公开社交媒体数据和生成式AI（GenAI）来自动化、规模化地发起高度个性化且上下文感知的鱼叉式钓鱼攻击。研究者构建了一个模块化框架，涵盖多模态信号提取、沟通风格画像以及七种攻击策略（诱饵、恐吓软件、蜜罐、尾随、冒充
Comment and Control: Hijacking Agentic Workflows via Context-Grounded Evolution
该论文研究了自动化平台（如GitHub Actions和n8n）中集成的大语言模型（LLM）智能代理工作流的安全风险。随着这些平台越来越多地采用所谓的“代理工作流”（agentic workflows），即让LLM代理执行代码审查、数据同步
Leveraging RAG for Training-Free Alignment of LLMs
本文研究了大语言模型（LLM）的安全对齐问题。传统的对齐算法通常需要基于偏好对进行后训练，虽然广泛用于设置安全护栏并与人类偏好对齐，但计算开销大，且对于最新的智能体攻击（agentic attacks）的拒绝能力不足。为此，作者提出了一种基
Adversarial SQL Injection Generation with LLM-Based Architectures
本文针对SQL注入（SQLi）攻击这一长期位列OWASP Top 10的安全威胁，探索利用大型语言模型（LLM）自动化生成对抗性SQL注入测试载荷的方法。作者提出了两种新型基于LLM的系统：RADAGAS（基于检索增强生成的对抗性SQLi生
Unlearning with Asymmetric Sources: Improved Unlearning-Utility Trade-off with Public Data
本文研究了基于噪声的认证机器学习遗忘问题。现有方法面临一个硬性天花板：为保证遗忘认证所需添加的噪声量通常会严重破坏模型效用，尤其是在大规模删除请求场景下。结合公共数据是差分隐私中缓解这一矛盾的常用技术，但在遗忘领域尚未被充分探索。本文提出非
Benchmarking LLM-Based Static Analysis for Secure Smart Contract Development: Reliability, Limitations, and Potential Hybrid Solutions
该论文针对基于大型语言模型（LLM）的静态分析在智能合约安全开发中的可靠性和局限性进行了系统基准测试。研究背景是区块链交易的不可逆性使得智能合约漏洞检测成为安全开发的必备环节，而LLM虽被越来越多地集成到开发者工作流中，其作为自主安全审计工
ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks?
该论文提出了ExploitGym，一个用于评估AI代理漏洞利用能力的大规模、多样化、逼真的基准测试平台。随着AI代理能力的快速提升，其可能显著重塑网络安全格局，因此需要严格的评估。漏洞利用是将一个尚未成为攻击的漏洞转化为具体安全影响（如未授
Engineering Robustness into Personal Agents with the AI Workflow Store
该论文对当前主流AI代理（AI agent）的“即时合成”（on-the-fly）范式提出了批评，认为该范式绕过了软件工程（SE）中严谨的迭代设计、测试、对抗评估、分阶段部署等流程，导致AI代理在实际高风险场景中可能输出不稳定的原型系统，而
From Controlled to the Wild: Evaluation of Pentesting Agents for the Real-World
本文提出了一种面向真实世界场景的AI渗透测试代理评估协议。现有基准测试（如夺旗、远程代码执行、漏洞复现、轨迹相似度等）通常在简化或狭窄环境中评估代理，无法充分体现真实渗透测试中的复杂性、开放性探索和战略决策需求。作者设计的新协议将评估从任务
Threat Modelling using Domain-Adapted Language Models: Empirical Evaluation and Insights
本论文对领域自适应语言模型在结构化威胁建模任务中的有效性进行了系统性的实证评估。研究聚焦于5G安全场景，采用STRIDE威胁分类方法，共使用52种不同配置（涵盖8种语言模型）进行实验。核心变量包括：1）领域自适应（电信与网络安全领域）与否、
LLMs for Secure Hardware Design and Related Problems: Opportunities and Challenges
这篇综述论文系统分析了大型语言模型（LLMs）在电子设计自动化（EDA）和硬件安全领域的应用机遇与挑战。随着半导体行业快速发展，LLMs在生成寄存器传输级（RTL）代码、自动化测试台以及弥合高层规范与硅实现之间的语义鸿沟方面展现出前所未有的
Can You Keep a Secret? Involuntary Information Leakage in Language Model Writing
该论文研究了前沿语言模型在写作任务中是否能够保守秘密。作者给每个模型一个秘密词，要求模型在写故事时不要泄露该词，然后使用另一个模型通过二分类测试来判断故事是否包含该秘密。尽管秘密词从未以字面形式出现在输出中，但所有五个测试的前沿模型都以显著
LITMUS: Benchmarking Behavioral Jailbreaks of LLM Agents in Real OS Environments
LITMUS 是一个针对基于 LLM 的自主智能体在真实操作系统环境中的行为安全性的基准测试平台。现有基准大多仅在语义层评估安全性，忽略了物理层的危害，并且测试用例之间缺乏隔离，导致污染问题。LITMUS 通过语义-物理双重验证机制和 OS
MATRA: Modeling the Attack Surface of Agentic AI Systems -- OpenClaw Case Study
随着大型语言模型（LLM）被部署为具备访问工具、数据库和外部服务能力的自主智能体（Agent），不同行业从业者缺乏系统的方法来评估已知威胁类别如何在特定智能体部署中转化为具体风险。本文提出MATRA，一个针对智能体AI系统的实用威胁建模框架