SessionBound: Turning Enterprise Task Approval into Budgeted Database Sessions
本文提出SessionBound系统，旨在解决企业AI代理在访问数据库时的授权难题。在企业环境中，管理者或数据所有者可能批准一个业务任务，但AI代理随后会在应用层之下生成开放式的SQL查询，现有系统无法将批准的任务直接转换为有边界（boun
2026-07-02 归档
今日共收录 1714 条安全情报，包含 914 个 CVE，384 篇安全通告，以及 113 篇研究论文。
← 返回归档列表HARC: Coupling Harmfulness and Refusal Directions for Robust Safety Alignment
该论文研究了大语言模型（LLM）安全对齐的内部机制，旨在理解为何越狱攻击能够成功，并据此设计更鲁棒的对齐策略。此前研究表明，对齐的LLM在提示侧残差流中会将有害性（harmfulness）和拒绝（refusal）编码为可分离的方向。本文首先
Beyond the Prompt: Jailbreaking Function-Calling LLMs via Simulated Moderation Traces
该论文揭示了大语言模型（LLM）在函数调用场景下的一个结构性安全漏洞。传统越狱攻击主要关注提示词层面的注入，但作者指出，在支持状态化函数调用的应用中，开发者定义的模式（schema）、结构化参数以及不可信的工具输出会被交错地放入同一个模型上
Minos: A Multi-Agent Collaborative Framework for Provenance-Based Backward Tracking
该论文提出Minos，一个基于多智能体协作框架的溯源反向追踪系统，用于解决高级持续性威胁（APT）等复杂网络攻击的事后取证分析问题。现有溯源反向追踪方法依赖低级统计特征和刚性遍历策略，难以捕捉高级攻击意图，且面临依赖爆炸问题。Minos将反
KidnapRAG: A Black-Box Attack for Hijacking Reasoning in Agentic Retrieval-Augmented Generation Systems
本文研究针对智能体检索增强生成（Agentic RAG）系统的黑盒投毒攻击。Agentic RAG系统通过迭代检索和推理来增强大语言模型（LLM）的输出，相比传统RAG系统更能抵御投毒攻击，因为智能体可以忽略弱相关的恶意文档并维持用户查询诱
A Penny for Your Prompts: Experiments Detecting and Mitigating LLM Usage by Survey Respondents
该研究针对众包平台（如Prolific、Mechanical Turk）上受访者越来越多地使用大型语言模型（LLM）辅助回答调查问卷的现象，旨在量化该行为的普遍性并探索检测与缓解方法。研究者设计了一系列在线调查实验（总样本量N=250），系
A Lifecycle and Application-Stack Survey of Large Language Model Vulnerabilities: Attacks, Risks, Defenses, and Open Problems
本文系统化地综述了大语言模型（LLM）系统中的安全漏洞，从生命周期和应用栈两个维度进行组织。作者将攻击分为八个阶段：数据收集、预训练、后训练对齐、模型打包与供应链、检索与记忆、提示与推理、工具/代理执行、部署与维护。每个阶段分析了攻击者能力
Robust Text Watermarking for Large Language Models via Dual Semantic Embeddings
本文提出 Dual-Embedding Watermarking (DEW)，一种针对大型语言模型（LLM）的语义水印方案。核心问题是如何在 LLM 生成的文本中嵌入稳健的水印，使其能抵抗释义（paraphrasing）和翻译等语义变换攻击
EnclaveX: End-to-End Confidential AI with CPU/GPU TEEs
大型语言模型（LLM）的广泛应用依赖于微软Azure、谷歌云或AWS等集中式基础设施，用户需要共享敏感数据和训练/微调代码，这引发了严重的安全和隐私问题。可信执行环境（TEE），如Intel SGX/TDX、AMD SEV-SNP和ARM
CSO-LLM: Class Subspace Orthogonalization for Post-Training Backdoor Detection and Trigger Inversion in LLMs
该论文针对大语言模型（LLM）的后门检测与触发器反转问题展开了系统研究。现有针对图像模型的后门检测方法无法直接迁移到LLM，主要面临两大挑战：首先，LLM的输入空间是离散的，对于长度为k的触发器，需要考虑多达150000^k种可能的令牌组合
Probing Memorization of Tabular In-Context Learning
本文研究大型表格模型（LTMs）在上下文学习（ICL）中的参数记忆化问题，即模型是否无意中记住了训练数据。作者提出一个名为ICLMEM的探测框架，通过构造零信息多项选择上下文来剥离有效上下文模式，迫使模型依赖参数记忆进行预测。该框架使用受控
An Empirical Study of Security Calibration in Large Language Models for Code
该论文是一项关于大型语言模型（LLM）在代码生成任务中的安全校准（security calibration）的实证研究。安全校准衡量模型对其生成代码安全性的置信度是否与实际安全性一致。研究评估了GPT-4o-mini、Gemini-2.0-
Curvature-Guided Module Localization for Low-Rank Detoxification of Backdoored Large Language Models
本文研究了大语言模型（LLM）中的后门攻击防御问题。后门攻击通过在正常输入中嵌入隐藏触发器，使得模型在触发器存在时产生攻击者指定的恶意行为，而在无触发器时表现正常。现有防御方法通常需要重新训练整个模型或进行全局微调，成本高昂且可能破坏模型原
Security--Fidelity Tradeoffs: The Hidden Cost of Prompt Injection Defense
该论文揭示了在防御大型语言模型（LLM）免受间接提示注入攻击时存在安全性与保真度之间的固有权衡。传统攻击成功率指标无法区分模型忽略注入、将注入作为数据处理以及正确执行注入这三种情况，因此无法衡量保真度。为此，作者提出了SecFid基准测试，
An Empirical Evaluation of Prompt Injection Vulnerabilities in Large Language Models Across Multilingual and Obfuscated Attack Scenarios
本论文对六种主流大语言模型（DeepSeek、GPT、Gemini、Grok、Llama 和 Qwen）在提示注入攻击下的脆弱性进行了实证评估。研究设计了包括直接提示注入和多阶段混淆攻击在内的多样化对抗性提示场景，并跨越多种语言和字符编码（
SurrogateShield: Beyond Redaction for High-Utility, Privacy-Preserving LLM Interactions
本文提出SurrogateShield，一种客户端代理框架，旨在解决用户与第三方大型语言模型（LLM）API交互时的隐私泄露问题。当用户查询包含个人可识别信息（PII）时，传统方法采用占位符删除（Placeholder Redaction）
Closing the Activation-Cone Blind Spot: Response-Time Probing and Unified Defense
该论文系统评估了大型语言模型（LLM）推理时安全防御方法的性能，填补了该领域缺乏系统比较的空白。研究涵盖了五种防御范式（无防御、静态引导、CAST、AlphaSteer、探针门控）在七个指令微调模型（参数量7-31B）上抵御五种攻击（GCG
Breaking the Rounding Trap: Securing LLMs against Quantization-Conditioned Backdoors
模型量化是降低大语言模型存储和推理开销的关键技术，但最近的研究表明，量化引入的离散化和舍入误差可被攻击者利用，构造量化条件后门攻击。在这种攻击下，恶意行为在全精度阶段保持休眠，仅在量化部署后激活，从而绕过传统的安全审计和检测机制。针对这一威
AI-Generated PowerShell Malware: An Experimental Framework and Dataset
本文针对生成式AI在网络安全领域带来的威胁，特别关注大型语言模型（LLM）被用于生成PowerShell恶意代码的攻击事件。作者提出了一个评估LLM生成PowerShell恶意软件的实验框架，包括一种新型动态分析沙箱，用于分析AI生成的恶意
ORAS Go forwards registry credentials across registry redirects
# ORAS Go forwards registry credentials across registry redirects Reporter / public credit: JUNYI LIU ## Summary ORAS