Benchmarking Empirical Privacy Protection for Adaptations of Large Language Models
该论文针对大型语言模型（LLM）在差分隐私（DP）适配下的实际隐私保护效果进行了基准测试。研究背景是：虽然DP理论上能提供隐私保障，但由于LLM预训练数据与适配数据可能存在重叠或依赖关系，实际隐私风险可能仍然存在。作者采用最先进的攻击方法，
2026-06-10 归档
今日共收录 1730 条安全情报，包含 831 个 CVE，478 篇安全通告，以及 120 篇研究论文。
← 返回归档列表Brain-Prompt Injection: A Route-Safety Audit for BCI-LLM Agents
本文针对脑机接口（BCI）到大型语言模型（LLM）智能体的管道提出了一个新型攻击面：脑提示注入（brain-prompt injection）。该管道将解码的神经活动作为工具使用智能体的授权通道，但攻击者可通过信号侧扰动、上下文仅注入和自适
The Injection Paradox: Brand-Level Suppression in Safety-Trained LLM Recommendations via RAG Context Injection
本文揭示了基于检索增强生成（RAG）的大语言模型（LLM）推荐系统中一种可重复的安全训练失效模式，称为“注入悖论”。该现象表现为：嵌入在检索文档中的提示注入（prompt injection）非但没有帮助攻击者提升目标品牌推荐率，反而由于模
PrivCode++: Latent-Conditioned Differentially Private Code Generation for Comprehensive Guarantees
大型语言模型在指令-代码对上进行微调时，可能会记忆并泄露敏感的训练数据。现有的差分隐私（DP）代码生成方法主要保护代码片段，但假设提示（prompt）是公开的，这无法应对现实场景中提示也可能包含敏感信息的情况。当提示在生成过程中不能被显式学
Steganography Without Modification: Hidden Communication via LLM Seeds
本文揭示了一个存在于当前主流大语言模型（LLM）推理栈中的隐写通道，该通道无需修改模型权重、采样代码或输出分布即可实现秘密通信。其核心原理是利用确定性解码过程中的伪随机数生成器（PRNG）在逆变换采样时产生的种子依赖性：PRNG根据种子生成
Unveiling Privacy Risks in Multi-modal Large Language Models: Task-specific Vulnerabilities and Mitigation Challenges
本文系统性地研究了多模态大语言模型（MLLMs）中的隐私风险。与文本大语言模型（LLMs）不同，MLLMs同时处理文本和图像，图像中嵌入的敏感信息可能被模型提取并泄露。作者首先构建了MM-Privacy综合数据集，覆盖多种多模态任务和场景，
Context-Fractured Decomposition Attacks on Tool-Using LLM Agents: Exploiting Artifact Provenance Gaps
该论文针对使用工具的LLM代理（Tool-Using LLM Agents）提出了一种新型的多步越狱攻击方法——上下文碎片化解构攻击（Context-Fractured Decomposition, CFD）。现有的大多数越狱攻击和防御（如
Hardening Agent Benchmarks with Adversarial Hacker-Fixer Loops
该论文研究了终端智能体基准测试（如KernelBench、Terminal Bench）中奖励黑客攻击的问题。作者审计了5个终端智能体基准测试的1968个任务，发现其中323个（16%）可以被前沿模型仅通过任务描述就成功攻破，导致排行榜排名
Oversight Has a Capacity: Calibrating Agent Guards to a Subjective, Fatiguing Human
本文研究LLM代理安全中的人类监督机制。传统安全模式依赖人在循环中的审批门：高风险操作暂停并等待人工审核。但论文指出，这一模式基于两个错误假设：存在关于“风险”的客观真实标签，以及人类评审是完美无缺、随时可用的。作者通过125个人工标注的对
Cheap Reward Hacking Detection
该研究提出一种低成本、高效的reward hacking检测方法，针对强化学习（特别是基于人类反馈的强化学习，RLHF）中奖励模型被操纵的问题。核心方法：训练一个小型Transformer编码器，将Terminal-Wrench环境中的轨迹
GitInject: Real-World Prompt Injection Attacks in AI-Powered CI/CD Pipelines
本文介绍了 GitInject，一个用于评估现实世界中 CI/CD 流水线（特别是 GitHub Actions）中 AI 代理提示注入漏洞的开源框架。随着 AI 代理越来越多地被集成到 CI/CD 流水线中，用于自动审查拉取请求、分类问题
Data Agents Under Attack: Vulnerabilities in LLM-Driven Analytical Systems
本文对LLM驱动的数据代理系统（Data Agents）进行了系统的安全研究。数据代理将LLM推理与关系数据访问、可执行分析工具和多步工作流编排相结合，日益成为企业分析的核心，但也引入了新的安全漏洞组合。作者首先构建了一个分层漏洞框架，在解
Sample-Efficient LLM-Based Detection of Malicious Web Server Logs with Forensically Explainable Reasoning
该论文针对 Web 服务器日志的取证分析需求，提出了一种名为 CEF-Log 的上下文增强少样本思维链提示策略，用于大语言模型（LLM）。传统机器学习方法在日志检测中常被视为“黑箱”，难以提供符合法律要求的人类可读解释。CEF-Log 通过
Hiding in Plain Floats: Steganographic Carriers for Indirect Prompt and Content Injection
本文研究了一种针对大语言模型的新型间接提示/内容注入攻击方式。传统的基于文本的防御假设恶意信号在文本视图中可见，但作者发现当恶意负载以结构化浮点参数形式传输，并仅在碎片化遥测中重建时，可以绕过文本检测器。具体来说，攻击者将恶意指令编码为浮点
Alignment Defends LLMs from Property Inference Attacks
本文研究了大型语言模型（LLM）在领域特定数据集上微调时面临的数据集属性泄露风险。近期研究表明，通过属性推断攻击（property inference attacks），攻击者能够有效提取模型训练数据集中的敏感属性（如数据集的整体分布特征）
One-Character Linux Kernel Flaw Enables Local Root Access, Exploits Now Public
CVE-2026-23111
Security researchers have published a detailed, working exploit for a Linux kernel use-after-free that lets an unprivile
Veeam Backup & Replication RCE Flaw Lets Domain Users Run Remote Code
CVE-2026-44963
Veeam has released security patches to address a critical flaw in its Backup & Replication software that could result in
Chrome V8 Zero-Day CVE-2026-11645 Exploited in the Wild - Patch Now
CVE-2026-11645
Google has released security updates to address 74 vulnerabilities, including one that has come under active exploitatio
LiteLLM Flaw CVE-2026-42271 Exploited in the Wild, Chains to Unauthenticated RCE
CVE-2026-42271
The U.S. Cybersecurity and Infrastructure Security Agency (CISA) on Monday added a high-severity flaw impacting BerriAI
The Distributed Detectability Band Against Marginal-Preserving Attacks
本文研究人工智能控制监控器（AI-control monitors）在面对分布式破坏攻击时的检测能力。传统监控器基于单步动作打分，但真实的危害可能分散在多个看似正常的步骤中，每个步骤的得分都低于警报阈值。作者提出了一种基于高斯Copula和