SilentRetrieval: Hijacking Retrieval-Augmented Generation via Semantically-Preserving Adversarial Data Poisoning
本文提出了一种名为SilentRetrieval的两阶段数据投毒攻击方法，旨在劫持检索增强生成（RAG）系统。RAG通过检索外部文档来缓解大语言模型（LLM）的幻觉问题，但同时也引入了语料库完整性的新安全风险。SilentRetrieval
2026-05-30 归档
今日共收录 1277 条安全情报，包含 517 个 CVE，386 篇安全通告，以及 105 篇研究论文。
← 返回归档列表CODEFUSE-DEBENCH: An Empirical Study on Readability, Recompilability, and Functionality
二进制反编译旨在将机器码恢复为高级语言源代码，但现有评估主要依赖语法相似性或单一维度的可读性指标，无法反映实际的可重用性。本文提出了一种以可重用性为导向的评估范式，从可读性、可重编译性和功能性三个正交维度衡量反编译器质量。作者设计了 DEB
Evolving Skill-Structured Attack Memory Enhances LLM Jailbreaking
该论文提出了一种名为 MemoAttack 的黑盒大语言模型（LLM）越狱攻击框架。现有黑盒越狱方法要么依赖样本级启发式搜索，要么通过策略池或方法库积累攻击经验，但缺乏对攻击经验的系统组织和管理。为此，MemoAttack 设计了三个核心组
S3C2 Summit 2025-07: Government Secure Supply Chain Summit
该论文报告了2025年7月9日由美国国家科学基金会支持的软件供应链安全中心（S3C2）举办的一次政府安全供应链峰会。峰会邀请了来自6个美国联邦政府机构的12名参与者，旨在促进不同行业从业者在软件供应链安全方面的实践经验与挑战分享，建立新的合
Token Inflation: How Dishonest Providers Can Overcharge for Large Language Model Usage
本文揭示了大语言模型（LLM）商业服务中按token计费模式的审计漏洞。当前提供商普遍采用每token计费，但出于保护知识产权、缓解越狱攻击和用户隐私等考虑，提供商隐藏了模型、分词器及执行细节，导致用户无法独立验证计费token数量。作者将
Fingerprinting Inference Systems of Large Language Models
该论文研究了大语言模型（LLM）推理系统的指纹识别问题。作者指出，LLM的行为不仅取决于模型本身，还受到推理系统中各组件的微妙影响，包括推理引擎、注意力后端和硬件平台。这些组件在实现上的差异会导致相同模型在不同系统上运行时产生微小的数值偏差
Honeyval: A Comprehensive Evaluation Framework for LLM-powered HTTP Honeypots
蜜罐是一种模拟真实系统组件的诱饵系统，用于防御网络攻击。近年来，大语言模型（LLM）日益被用作蜜罐的模拟骨干，使防御者能够在低系统安全风险下构建高交互蜜罐。然而，LLM驱动的蜜罐开发缺乏统一的评估框架。现有评估方法大多包括在固定命令上测量响
Hijacking Agent Memory: Stealthy Trojan Attacks Through Conversational Interaction
大型语言模型（LLM）智能体越来越多地依赖长时记忆来支持持久、自主的任务执行。然而，这一能力也引入了新的攻击面：记忆投毒，对手可以注入恶意信息以影响未来行为。现有记忆投毒攻击通常假设注入内容可以直接存储到记忆中，忽略了现代记忆流水线中的选择
Dissecting the Black Box: Circuit-Level Analysis of LLM Vulnerability Detection
本文通过机械可解释性方法，深入分析了大型语言模型（LLM）在检测软件漏洞时的内部计算机制。研究使用Gemma-2-2b模型和Circuit Tracer工具，对472个C/C++代码样本进行分类时激活的神经通路进行追踪。令人惊讶的是，模型主
SciIntBench: Measuring LLM Compliance with Research Integrity Norms Under Adversarial Framing
大型语言模型（LLM）正越来越多地被用于支持科学研究，但其是否遵守负责任的研究行为（RCR）规范或助长违规尚不明确。本文提出了 SciIntBench，一个对抗性基准测试，包含 810 个提示，涵盖 10 个 RCR 类别（如捏造、伪造、剽
Harmless Yet Harmful: Neutral Prompting Attacks for Stealthy Hallucination Steering in Agent Skills
该论文研究了LLM驱动的编码代理在软件开发流程中生成代码、选择依赖和产生包安装命令时引入的新软件供应链风险。当代理幻觉（hallucinate）一个不存在的包名时，攻击者可以注册该幻觉名称，进而危害安装它的用户。现有的包幻觉攻击和防御主要关
Provably Secure Agent Guardrail
本文针对大型语言模型从受限生成引擎向具有广泛执行权限的智能体（Agent）转型过程中出现的“AI失控”安全问题，指出现有防御架构（如经验性语义护栏、概率性大模型裁决器）在面对复杂语义符号解耦攻击时无法提供确定性的安全下限。为解决这一“经验性
Implicit Identity Technologies for LLMs: Fingerprinting and Watermarking across Datasets, Models, and Generated Content
本文对大型语言模型（LLM）的指纹识别与水印技术进行了系统性综述和分类，旨在解决LLM资产的身份验证、所有权证明、溯源以及生成内容归因问题。随着LLM在数据、计算和专业知识方面的高昂投入，以及在高风险场景中的广泛应用，保护LLM相关资产并追
S3C2 Summit 2025-09: Industry Secure Supply Chain Summit
该论文是2025年9月15日由美国国家科学基金会支持的软件供应链安全中心（S3C2）举办的行业安全供应链峰会（S3C2 Summit 2025-09）的报告。峰会邀请了来自8个不同领域组织的10位从业者，旨在促进跨行业经验分享、建立合作并识
Relevance as a Vulnerability: How Web Retrieval Degrades Safety Alignment in LLM Agents
该论文研究了检索增强型大语言模型（LLM）智能体中的安全对齐退化问题。智能体通过集成网络检索等外部工具，能够生成更准确、更新的响应，但这一过程可能削弱模型固有的安全对齐机制。已有研究表明，启用检索会增加智能体对有害请求的遵从性。为此，作者提
unix-ctf: Procedural Environments for Unix-Competence Reinforcement Learning
该论文提出了 unix-ctf，一个面向 Unix 能力的强化学习训练环境。当前终端基准测试（如 Terminal-Bench 2.0）倾向于模糊 Unix 能力与通用编程能力的区分：一个擅长 Python 但 Unix 薄弱的求解器可以通
GEO-Bench: Benchmarking Ranking Manipulation in Generative Engine Optimization
随着大语言模型（LLM）越来越多地用于对产品、文档和推荐进行排序，针对这些排序的操纵（即生成式引擎优化，GEO）对公平性和信息完整性构成了日益严重的威胁。现有的GEO研究提出了多种操纵方法，但每种方法都在自己的数据集上使用自己的指标进行评估
Robust and Efficient Guardrails with Latent Reasoning
该论文针对大型语言模型（LLM）在实际部署中的安全问题，特别是现有的安全护栏（guardrails）方法存在的性能与效率权衡问题。传统的基于分类的护栏性能有限，而近期基于显式推理的护栏（如GuardReasoner）虽然性能显著提升，但带来
SCDBench: A Benchmark for LLM-Based Smart Contract Decompilers
智能合约反编译旨在从字节码恢复高级源代码，但现有评估方法存在数据集狭窄、指标不一致、语义一致性检查有限等问题。随着大语言模型（LLM）开始生成看似合理且可编译的Solidity代码，即使其语义与原始合约存在偏差，这一评估缺口愈发重要。本文提
Measuring Real-World Prompt Injection Attacks in LLM-based Resume Screening
本研究针对大型语言模型（LLM）在真实应用中的提示注入攻击威胁，首次进行了系统性测量分析。研究聚焦于LLM驱动的简历筛选系统，基于hireEZ平台多年来收集的约20万份真实简历数据。研究者首先设计了专门针对简历场景的提示注入检测方法，通过人