Why Are LLM Backdoor Defenses Fragmented? A Feature-Level Explanation with Sparse Autoencoders
本文针对大语言模型（LLM）后门防御碎片化的问题，首次利用稀疏自编码器（SAE）从特征层面进行系统性的机制分析。现有防御方法往往只针对特定类型的后门攻击（如脏标签或干净标签），缺乏统一解释。作者通过构建干净模型与中毒模型在干净输入和触发输入
2026-09-01 归档
今日共收录 1266 条安全情报，包含 424 个 CVE，451 篇安全通告，以及 107 篇研究论文。
← 返回归档列表SIR: Self-improving Red-teaming for Compute Use Agents
该论文提出 SIR（Self-improving Red-teaming），一种针对计算机使用智能体（CUA）的黑盒间接提示注入（IPI）攻击方法。CUA 是能够感知屏幕并通过鼠标、键盘和终端操作真实操作系统的视觉-语言模型，正越来越多地用
Understanding Stage-Wise Utility-Risk Trade-offs in LLM Agent Memory
本文研究了大型语言模型（LLM）智能体的长期记忆机制在效用与安全风险之间的阶段化权衡。随着长期记忆成为LLM智能体实现个性化和长程交互的核心能力，记忆的保留、变换和暴露机制在提升良性效用的同时，也可能增加对记忆投毒攻击的敏感性。现有的评估通
Balancing Privacy, Utility, and Safety in LLM Alignment through Preference Optimization
该论文研究大语言模型（LLM）对齐过程中的隐私、实用性与安全性之间的权衡，重点关注偏好优化（Preference Optimization）对模型记忆隐私信息的影响。作者指出，广泛使用的直接偏好优化（DPO）方法虽然能将模型行为与人类偏好对
Influence Is Not Authority: When Causal Guardrail Signals Make Legitimate Tool Use Look Like an Attack in Tool-Using LLM Agents
本文研究了基于影响的防护信号（influence-based guardrail signals）在工具使用型 LLM 代理中的局限性。当前最先进的防护机制依赖因果信号来判断动作是否被授权，但无法可靠地区分合法授权操作与恶意未授权操作，尤其
POLYFLOW: A Neuro-Symbolic Framework for Static Cross-Language Information Flow Analysis
现代软件系统通常由多种编程语言共同构建，例如 Python 与 C、Java 与 C 的混合编程。这种跨语言架构虽然提升了开发效率和性能，但也引入了因语言交互而产生的复杂信息流，进而埋藏着隐蔽的安全漏洞。传统的静态分析工具难以处理不同语言之
Reactive Peripheral Modeling for Faithful Firmware Rehosting
该论文针对固件重托管（firmware rehosting）技术在嵌入式协议栈测试中的局限性，提出一种名为 Reactive Peripheral Modeling (RPM) 的外设建模抽象。现有重托管方法大多依赖被动的外设行为近似，难以
OASIS: Optimizing Attacker Sequences for Hard-Label Black-Box Text Attacks
本文针对硬标签黑盒文本攻击中的攻击器组合优化问题展开研究。硬标签黑盒攻击指攻击者只能获取模型输出的最终类别标签，无法获得置信度分数或梯度信息，这种设置更贴近真实世界的攻击场景。现有的攻击方法通常致力于改进单个攻击器（如优化搜索方向或扰动策略
SpatialTrust: A Benchmark for Environmental Risk Recognition in Secure Authentication
该论文提出 SpatialTrust，一个面向安全认证场景中环境风险识别能力评估的多模态大语言模型（MLLM）问答基准。研究背景是：在安全认证过程中，用户周围环境可能泄露敏感信息或引入潜在安全风险（如屏幕内容被旁观者看到、摄像头拍到隐私区域
A Multi-Month Study of Git Commit Signing
该论文针对软件供应链中Git提交签名（commit signing）的实际使用体验开展了一项为期三个月的纵向研究。Git提交签名自2012年引入，是建立提交来源与完整性的一种机制，但开发者自主采用的比率仍然很低，且缺乏对开发者使用体验的系统
Not the Same Protector: Deployment-Dependent Protective Intervention in LLMs
本文研究大语言模型（LLM）在不同部署条件下（语音、文本、原始 API）对用户保护性干预的一致性。作者以一个描述人际冲突后未明确严重程度的身体伤害的单一压力场景为测试用例，对四个前沿模型进行匹配输入，每条件 30 次重复，并沿五个二元保护指
UiAs: User-Independent 3D Facial Anti-Spoofing via Multi-modal Wireless Signals
该论文提出了一种名为 UiAs 的多模态无线信号驱动的三维人脸防欺骗系统，旨在解决人脸认证系统面临的高保真 3D 面具攻击问题。随着 3D 打印和建模技术的发展，攻击者可以制作出高度还原人脸外观和几何结构的 3D 面具，这些面具能够骗过传统
A Comprehensive Survey on Linguistic Steganography: Methods, Countermeasures, Evaluation, and Challenges
本文是一篇关于语言学隐写术（linguistic steganography）的综合性综述，系统梳理了该领域在大型语言模型（LLM）时代的最新进展。隐写术旨在将秘密信息隐藏在看似正常的自然语言文本中，以规避检测。随着LLM的兴起，文本生成方
The Web-CLI: Verifiable Privacy for Tools, Models, and Inference Engines in the Browser
本文提出了一种名为 Web-CLI 的新型应用架构，旨在将传统命令行工具、机器学习模型和 GPU 加速推理引擎等强大的计算能力，以零安装、可离线运行的浏览器应用形式交付，同时保持底层能力的完整性。其核心思想是将所有计算过程完全置于客户端执行
LongPIBench: A Long-Context Benchmark for Prompt Injection
本文提出 LongPIBench，一个专门面向长上下文场景的提示注入攻击基准。当前已有的提示注入基准大多只覆盖短输入，无法反映真实应用中长上下文条件下的安全风险，导致对现有防御方案有效性的高估。为弥补这一空白，作者设计了覆盖四种真实应用场景
When Verified Source Becomes Attack Input: Defending Smart Contracts Against LLM-Based Vulnerability Scanning
该论文关注智能合约在区块链上公开源代码所带来的新型安全威胁。传统上，智能合约项目为了建立用户信任，会在区块链浏览器上发布并验证源代码，使链上程序以可读形式公开。然而，随着LLM（大语言模型）智能体的发展，攻击者可以借助这些公开源码，利用自动
CamoDocs: A Poisoning Attack Against Retrieval-Augmented Language Models Using Camouflaged Documents
检索增强生成（RAG）通过引入外部文档来增强大语言模型（LLM），但公共或用户可编辑的内容源为数据投毒攻击提供了可能。攻击者可以注入恶意文档，引导模型输出攻击者期望的答案。现有的投毒攻击通常依赖在恶意文档中包含目标查询（query incl
TagZilla: Automated Owner and Abuse Type Tagging for Indicators of Compromise in Threat Reports
本论文提出并实现了一个名为 TagZilla 的自动化平台，用于在威胁情报（CTI）报告中为失陷指标（IoC）自动添加归属（owner）和滥用类型（abuse type）标签。在网络攻击活动中，IoC 通常包括 IP 地址、URL、文件哈希
Compared to What? A Human-Anchored Security Benchmark for LLM-Generated Infrastructure-as-Code
本文提出 GenIaC-SecBench，一个用于评估大语言模型生成基础设施即代码（IaC）安全性的基准测试。研究动机是：LLM 越来越多地被用于编写 IaC，而其中单个不安全默认值可能直接部署到生产环境；已有评估多报告原始漏洞数量，但缺乏
The Impact of Magma: A Ground-Truth Fuzzing Benchmark
Magma 是一个开源、基于地面真值（ground-truth）的模糊测试基准测试工具，旨在为模糊测试器的评估和比较提供统一的标准。该基准最初于 2021 年 ACM SIGMETRICS 会议上随研究论文发布，本文作为一篇短文，阐述了 M