ChatGPT share links abused to host fake outage pages to deliver malware
Threat actors are abusing ChatGPT's content-sharing feature to display fake OpenAI outage pages that direct users to dow
2026-05-31 归档
今日共收录 804 条安全情报，包含 64 个 CVE，387 篇安全通告，以及 99 篇研究论文。
← 返回归档列表California AG sues 23andMe over 2023 breach exposing health data
California Attorney General Rob Bonta filed a lawsuit against 23andMe, now Chrome Holding Co., over the company's failur
CrowdStrike Named a Leader in 2026 Gartner® Magic Quadrant™ for Endpoint Protection for Seventh Consecutive Time
CrowdStrike Named a Leader in 2026 Gartner® Magic Quadrant™ for Endpoint Protection for Seventh Consecutive Time
Shadow AI: The Hidden Risk Expanding Across the EnterpriseMay 29, 2026
Shadow AI: The Hidden Risk Expanding Across the EnterpriseMay 29, 2026
New CIFSwitch Linux flaw gives root on multiple distributions
A newly discovered local privilege escalation vulnerability dubbed 'CIFSwitch' in the Linux kernel could allow attackers
Provably Secure Agent Guardrail
本文针对大型语言模型从有限生成引擎向具有广泛执行权限的智能代理转型过程中出现的失控问题，提出了一种基于逻辑推理基本局限性的新型安全范式。现有防御架构主要依赖经验性语义护栏和概率性大模型裁决器，无法在复杂语义符号解耦攻击下提供确定性安全下界。
Measuring Real-World Prompt Injection Attacks in LLM-based Resume Screening
本研究首次系统性地测量了大型语言模型（LLM）在实际应用中的提示注入攻击威胁，聚焦于广泛使用的LLM简历筛选系统。研究基于hireEZ公司收集的约20万份真实简历数据，时间跨度数年。作者首先设计了专门针对简历文本的提示注入检测方法，通过在小
Relevance as a Vulnerability: How Web Retrieval Degrades Safety Alignment in LLM Agents
本文研究了AI Agent通过集成网络检索等外部工具来增强大语言模型（LLM）的能力，使其能够提供基于实时信息的响应。然而，将外部内容纳入生成流程会削弱模型原有的安全对齐机制，导致对有害请求的遵从性增加。作者提出了一个诊断框架AgentRE
SciIntBench: Measuring LLM Compliance with Research Integrity Norms Under Adversarial Framing
该论文提出 SciIntBench，一个对抗性基准测试，用于评估大型语言模型（LLM）在科学研究中是否遵守负责任研究行为（RCR）规范。基准包含10个RCR类别（如透明度、抄袭、伪造等）和3个科学领域的810条提示，每个场景构造为公开对抗版
Evolving Skill-Structured Attack Memory Enhances LLM Jailbreaking
该论文提出了一种名为MemoAttack的黑盒越狱攻击框架，旨在自动化生成对大型语言模型（LLM）的有效对抗性提示。现有黑盒越狱方法要么依赖样本级启发式搜索，要么通过积累策略池或方法库来利用攻击经验，但缺乏对攻击经验的系统组织和管理。Mem
SPARD: Defending Harmful Fine-Tuning Attack via Safety Projection with Relevance-Diversity Data Selection
论文 SPARD 针对大型语言模型在微调过程中安全对齐被破坏的问题，尤其是有害微调攻击（通过对抗性数据移除安全防护并引发不安全行为），提出了一种防御框架。该框架包含两个核心组件：1）安全投影交替优化（SPAG），在效用更新与显式安全投影之间
Token-Level Generalization in LoRA Adapter Backdoors: Attack Characterization and Behavioral Detection
本文研究了LoRA（Low-Rank Adaptation）适配器后门攻击的特性与检测方法。LoRA适配器是目前微调大型语言模型（LLM）的主流分发格式。作者证明，通过数据投毒攻击，可以在保持基线任务性能的同时，可靠地在LoRA适配器中植入
Token Inflation: How Dishonest Providers Can Overcharge for Large Language Model Usage
该论文揭示了商业大语言模型（LLM）按 token 计费模式下的信任漏洞。当前，提供商通过隐藏模型、分词器和执行细节来保护知识产权、防御越狱攻击并保护用户隐私，这使得用户只能依赖提供商提供的报告进行计费审计。作者将此称为“信任悖论”：每个审
Fingerprinting Inference Systems of Large Language Models
本文研究了大型语言模型（LLM）推理系统的指纹识别问题。LLM的行为不仅取决于模型本身，还受到推理系统组件（如推理引擎、注意力后端、硬件平台）的影响。这些组件在实现上的细微差异会导致相同模型在不同系统上运行时产生数值偏差，而这些偏差会传播到
Honeyval: A Comprehensive Evaluation Framework for LLM-powered HTTP Honeypots
蜜罐技术通过部署虚假系统组件来诱捕攻击者，近年来大型语言模型（LLM）被用作蜜罐的仿真引擎，能够构建高交互蜜罐且安全风险低。然而，当前LLM驱动的蜜罐开发缺乏统一的评估框架：现有评估方法多依赖于固定命令的响应相似度度量、人工测试或真实部署，
Hijacking Agent Memory: Stealthy Trojan Attacks Through Conversational Interaction
大型语言模型（LLM）代理越来越多地利用长期记忆来支持持久且自主的任务执行。然而，这种能力也引入了一个新的攻击面：记忆中毒，即对手可以注入恶意信息以影响未来行为。现有的记忆中毒攻击通常假设注入的内容可以直接存储在记忆中，忽略了现代记忆管道中
Dissecting the Black Box: Circuit-Level Analysis of LLM Vulnerability Detection
本文利用机械可解释性（Mechanistic Interpretability）方法，深入分析了大型语言模型（LLM）在软件漏洞检测任务中的内部计算机制。以 Gemma-2-2b 模型为研究对象，通过 Circuit Tracer 工具追踪
Minimal Prompt Perturbations Lead to Code Vulnerabilities: Prompt Fragility and Hidden-State Signals in Coding LLMs
本研究首次系统性地探讨了针对编码LLM的微小提示扰动对生成代码安全性的影响。尽管先前工作已表明提示扰动会降低代码的功能正确性，但其对安全性的影响尚未被研究。作者在三个不同规模的编码模型（CodeLlama、StarCoder、GPT-3.5
CODEFUSE-DEBENCH: An Empirical Study on Readability, Recompilability, and Functionality
该论文提出了一种基于可重用性的二进制反编译器评估范式，从可读性、可重编译性和功能性三个正交维度衡量反编译质量。作者构建了DEBENCH，这是第一个全自动的多维反编译评估框架，包含240个原子测试函数，编译成640个二进制文件。评估采用LLM
Harmless Yet Harmful: Neutral Prompting Attacks for Stealthy Hallucination Steering in Agent Skills
本文研究了LLM驱动的代码智能体在软件供应链中引入的新风险。代码智能体越来越多地参与软件开发流程，包括生成代码、选择依赖项和产生包安装命令。当智能体幻觉出一个不存在的包名时，攻击者可以注册该幻觉包名，进而危害安装该包的用户。现有的包幻觉攻击