Automated Code Annotation with LLMs for Establishing TEE Boundaries.
该论文研究了如何利用大语言模型（LLM）自动为代码添加注释，以确定可信执行环境（TEE）的边界。在TEE开发中，正确识别和标记边界代码至关重要，但传统上依赖人工手动注释，不仅耗时且容易出错。作者提出了一种自动化框架，通过微调LLM来理解代码
2026-05-06 归档
今日共收录 1285 条安全情报，包含 277 个 CVE，391 篇安全通告，以及 322 篇研究论文。
← 返回归档列表Chasing Shadows: Pitfalls in LLM Security Research.
本文系统性地探讨了大语言模型（LLM）在安全研究中引入的独特挑战。作者识别出九个常见陷阱，这些陷阱涵盖从数据收集、预训练、微调到提示工程和评估的整个计算流程，可能损害研究的有效性。为了评估这些陷阱的普遍性，作者分析了2023至2024年间发
Prεεmpt: Sanitizing Sensitive Prompts for LLMs.
本文提出 Prεεmpt 系统，旨在解决用户向大语言模型（LLM）提供包含敏感信息的提示（prompt）时可能导致的隐私泄露问题。现有方法通常需要修改 LLM 的内部结构或训练过程，而 Prεεmpt 采用一种非侵入式的方法，通过三个核心步
An LLM-Driven Fuzzing Framework for Detecting Logic Instruction Bugs in PLCs.
本文提出了一种基于大语言模型（LLM）驱动的模糊测试框架，用于检测可编程逻辑控制器（PLC）中的逻辑指令漏洞。PLC是工业控制系统（ICS）的核心组件，其固件中的逻辑指令漏洞可能导致错误输出或安全风险。传统的模糊测试方法在生成有效的测试用例
Causal-Guided Detoxify Backdoor Attack of Open-Weight LoRA Models.
本文针对低秩适配（LoRA）模型在开源社区（如Hugging Face）中广泛使用所带来的安全挑战展开研究。LoRA作为一种高效的大语言模型微调方法，其适配器文件可被轻易分享和传播，但这也为恶意攻击者提供了植入后门的机会。现有后门攻击方法在
Trust Me, I Know This Function: Hijacking LLM Static Analysis using Bias.
本研究聚焦于大型语言模型（LLM）在静态分析任务中的安全漏洞。研究者发现，LLM在分析代码时可能被恶意利用，通过精心构造的代码注释或变量命名等表面特征（即“偏见”），诱导模型输出错误的分析结果。例如，攻击者可以在代码中嵌入看似无害的注释，使
HyperMirage: Direct State Manipulation in Hybrid Virtual CPU Fuzzing.
本文提出了一种名为 HyperMirage 的新型混合虚拟 CPU 模糊测试方法，旨在解决传统模糊测试在虚拟化环境中状态覆盖不足的问题。该方法通过直接操纵虚拟CPU的内部状态（如寄存器、内存映射和特权级），结合符号执行和覆盖率引导的变异策略
Characterizing the Implementation of Censorship Policies in Chinese LLM Services.
本文系统地研究了中文大型语言模型（LLM）服务中内容审查政策的实现方式。研究团队设计并实现了一个自动化测试框架，通过向多个主流中文LLM服务（如百度文心一言、阿里巴巴通义千问等）发送精心构造的提示词，评估它们对敏感话题（如政治、历史、社会事
ObliInjection: Order-Oblivious Prompt Injection Attack to LLM Agents with Multi-source Data.
本文提出了一种针对多源数据LLM应用的新型提示注入攻击方法ObliInjection。在现实场景中，LLM的输入数据往往来自多个不同来源，每个来源贡献一个输入段，攻击者仅能控制其中部分段，且通常不知道各段在输入中的排列顺序。现有的提示注入攻
Was My Data Used for Training? Membership Inference in Open-Source LLMs via Neural Activations.
本文研究了针对开源大语言模型（LLMs）的成员推理攻击（Membership Inference Attack, MIA），即判断特定数据样本是否被用于模型训练。与现有基于模型输出（如loss、logits）的MIA方法不同，作者提出利用模
Paladin: Defending LLM-enabled Phishing Emails with a New Trigger-Tag Paradigm.
随着大型语言模型（LLM）的快速发展，利用其生成钓鱼内容的恶意行为日益普遍。攻击者可以利用LLM生成语法正确、主题定制的钓鱼邮件，这使得传统基于语义特征的检测方法难以有效识别。现有LLM检测方法存在计算成本高、依赖底层模型性能等问题，不适用
Shadow in the Cache: Unveiling and Mitigating Privacy Risks of KV-cache in LLM Inference.
本文研究了大型语言模型（LLM）推理过程中键值缓存（KV-cache）带来的隐私风险。KV-cache是LLM中用于加速自回归解码的关键组件，它会存储中间注意力层的键和值张量。作者发现，KV-cache中可能残留用户输入的敏感信息，例如个人
There is No War in Ba Sing Se: A Global Analysis of Content Moderation in Large Language Models.
本研究对大型语言模型（LLM）中的内容审核机制进行了全球范围的系统性分析。论文首先指出现有LLM部署时通常内置了内容过滤器以阻止有害或不当内容，但这些过滤器的有效性和一致性在全球不同地区因语言、文化、法律和监管环境的差异而存在显著不确定性。
ThinkTrap: Denial-of-Service Attacks against Black-box LLM Services via Infinite Thinking.
大语言模型（LLM）已广泛应用于自然语言理解与生成、具身智能及科学发现等领域。随着计算需求增长，这些模型越来越多地以云服务形式部署，用户通过互联网访问。然而，这种部署模式引入了一种新的威胁：通过无限推理进行的拒绝服务（DoS）攻击。攻击者精
Les Dissonances: Cross-Tool Harvesting and Polluting in Pool-of-Tools Empowered LLM Agents.
本文研究了在池化工具（Pool-of-Tools）赋能的 LLM agent 中存在的跨工具资源窃取和污染攻击。作者提出了一种名为“Les Dissonances”的攻击框架，利用 LLM agent 在工具选择与调用过程中的语义不匹配和安
Decompiling the Synergy: An Empirical Study of Human-LLM Teaming in Software Reverse Engineering.
本文针对软件逆向工程（RE）领域，提出了一个全新的研究视角：人类专家与大型语言模型（LLM）协同工作的有效性。尽管LLM在代码理解和生成方面展现出潜力，但在复杂的逆向工程任务中，人类直觉与机器自动化的结合尚未被系统研究。本研究设计了一系列实
LLMBisect: Breaking Barriers in Bug Bisection with A Comparative Analysis Pipeline.
该论文提出LLMBisect，一种基于大语言模型（LLM）的自动化Bug二分定位比较分析流水线。传统的Bug二分定位依赖人工查看代码或手动执行测试，效率低下且容易出错。LLMBisect通过将Bug描述、代码差异和测试结果输入LLM，让模型
DOM-XSS Detection via Webpage Interaction Fuzzing and URL Component Synthesis.
该论文提出了一种针对DOM-XSS（文档对象模型跨站脚本）漏洞的自动化检测方法。核心思路是将网页交互模糊测试与URL组件合成相结合。具体而言，方法首先通过模糊测试生成各种用户交互事件（如点击、输入、滚动等），触发网页中的JavaScript
Firefox browsers
Firefox browsers
Sign in to Cloud
Sign in to Cloud