The Oversight Gap: What LLM Safety Monitors Miss, and Why It Is Not Capability
这篇论文研究了LLM安全监控器在认证特定安全属性时存在的根本性局限。作者指出，一些被要求认证的属性（如跨租户非干扰、沙袋行为、评估意识）属于2-安全超属性，即只能通过两次执行来见证，因此单一执行轨迹在逻辑上无法判定它们。然而，作者没有停留在
2026-09-09 归档
今日共收录 1483 条安全情报，包含 593 个 CVE，506 篇安全通告，以及 97 篇研究论文。
← 返回归档列表VEX-Bench: Benchmarking LLM Agents for Assessing Exploitability of Software Supply Chain Vulnerabilities
软件供应链已成为日益暴露的攻击面，原因是其依赖关系复杂而脆弱。现有的防御工具（如 GitHub Dependabot）常常产生大量误报，因为它们的粗粒度匹配无法确定易受攻击的依赖项是否真正可利用。安全分析师通常需要花费大量时间逐案评估漏洞可
TrojanWorld: Backdooring World-Model Agents via Imagination Steering
本文提出了一种针对基于世界模型的强化学习智能体的后门攻击框架 TrojanWorld。世界模型作为模型-based 强化学习智能体的预测核心，使智能体能够在执行动作前模拟未来动态并基于想象轨迹进行推理。由于其训练成本高昂，预训练世界模型常被
Robustness-Aware Evaluation and Enhancement of Mutation-Based Fuzzing for Bug Discovery
变异模糊测试（mutation-based fuzzing）是软件安全中广泛使用的漏洞发现技术，但由于其随机性，对它的结果进行严格评估和复现存在困难。现有工作通常通过经验性测量来刻画这种随机性，但缺乏理论上的收敛性与样本复杂度保证，导致评估
Detokenization Leaks: Reconstructing Local LLM Outputs From Cache Traces
本文提出了一种针对本地部署大语言模型(LLM)的侧信道攻击方法，通过观察 CPU 缓存活动来重建模型生成的文本。与以往依赖特定部署条件(如共享数据内存、CPU offloading 或 Mixture-of-Experts 架构)的攻击不同
Benchmark Scores Are Pipeline-Dependent: A Reliability Audit of Cybersecurity LLM Benchmarks
本文对网络安全领域的大语言模型（LLM）基准测试的可靠性进行了系统性审计，指出基准分数并非固定不变，而是高度依赖于评估管道的具体配置。作者将八个网络安全基准测试视为测量管道，并选取了十个模型（包括商业专有模型、开放权重模型和网络安全专用模型
VeriScene: Reconstructing Crime Scenes from Legal Evidence via World-Model Agent
VeriScene 提出将世界模型用于法医场景重建，以解决原始多模态证据直接输入世界模型时产生的证据遗漏、证词矛盾被忽略以及生成运动不符合证据记录等问题。该模型以智能体方式编排世界模型，接收法医照片和可靠性不一的证人陈述作为输入，通过“引用
ACEA: An Adversarial Co-Evolution Arena for Head-to-Head Red-Team and Blue-Team LLM Testing
大型语言模型（LLM）的自动化红队攻击与蓝队防御技术正在快速发展，但现有的攻击者和防御者通常被孤立地构建和测试，导致评测分数难以反映真实对抗能力。为解决这一问题，本文提出了 ACEA（Adversarial Co-Evolution Are
LLM-Based Penetration Testing in the Presence of Honeypots
该论文研究了大语言模型（LLM）智能体在自动化渗透测试中面对蜜罐（honeypots）时的预算分配问题。传统蜜罐依赖真实性与隐蔽性来诱捕人类或脚本攻击者，从而暴露其战术、技术与程序（TTPs）；然而，LLM驱动的攻击者能够对异构工件进行推理
"Shut Up and Let Me Enjoy My Otome": Understanding and Measuring the Toxicity in Otome Game Communities
该论文针对乙女游戏（女性向恋爱模拟游戏）社区中普遍存在但此前缺乏系统性研究的在线毒性问题，首次完成了跨社交平台的大规模毒性测量。作者提出名为OtomeSCAN的框架，用于从微博和Reddit收集、评估和分析共620,045条与乙女游戏相关的
Benchmarking LLMs for Threat Level Determination
本文研究了大型语言模型（LLM）在网络威胁情报（CTI）运营任务中的可靠性，具体聚焦于“威胁等级判定”这一子任务。随着LLM的快速发展，其在安全运营中被视为潜在的自动化辅助工具，但其实际决策能力尚未得到充分验证。作者首先从公开的MISP O
AgentDrift: A Step-Labeled Benchmark of Injection-Hijacked LLM Agent Trajectories
本论文提出了 AgentDrift，一个用于研究针对 LLM 代理的间接提示注入劫持轨迹的逐步标注基准。LLM 代理通过调用工具完成任务，而每次工具返回的观察结果都可能成为间接提示注入的入口。成功的注入在按顺序读取轨迹时呈现特殊形态：一段良
Characterizing Contention-Induced Reliability Collapse in KV-Cache Timing Side Channels for Multi-Tenant LLM Serving
该论文研究多租户大语言模型（LLM）服务场景下，共享KV缓存（key-value cache）重用所引发的定时侧信道攻击在真实并发负载下的可靠性问题。尽管已有工作表明此类攻击可行，但在实际多租户竞争环境中其稳定性尚未被充分理解。作者在真实共
AURA-Eval: Evaluation Framework for Acting Under Risk Awareness in LLM Agent Trajectories
本文提出 AURA-Eval，一个用于评估大语言模型智能体在工具调用轨迹中“风险感知下的行动”能力的框架。现有安全评估往往将行为简化为单一分数，难以区分模型是否真正识别风险、是否在行动前有预检测能力，以及在存在安全解决方案时能否安全完成任务
A Novel Semantic Manifold Alignment Attack against Embedding-to-Embedding Obfuscation in Privacy-Preserving LLMs
本文针对隐私保护大语言模型（LLM）推理中的嵌入到嵌入混淆（Embedding-to-Embedding Obfuscation, E2EO）机制提出了一种新的攻击方法——代理流形对齐（Proxy Manifold Alignment, P
A Trustworthy Watermarking Framework for LLM-Generated Food Safety Content
本文针对大语言模型（LLM）生成内容在食品安全等关键领域被篡改的风险，提出了一种名为 ToSS（Token Oriented Repartitioning and Strategic Selection）的可信水印认证框架。该框架采用自适应
Beyond QA Matching: Perturbation-Response Fingerprinting via Probability Distributions for Large Language Models
本文针对大语言模型（LLM）在指令微调、专用化、量化等变换后难以进行细粒度来源追溯的问题，提出了一种无需训练的模型指纹方法 BReF（Perturbation-Response Fingerprinting）。BReF 的核心思想是：对于四
It is Not Yet Another Tool: Creating and Deploying an Agentic AI Companion in a Security Operations Center
本文介绍了作者团队在真实安全运营中心（SOC）中设计、开发并部署一个智能体式 AI 助手（agentic AI companion）的长期实地研究成果。SOC 每天需要处理大量工单，其中绝大多数是低关注度事件，不值得深入调查，而这类重复性劳
SCRIPTIOC-BENCH: A Benchmark for Recognizing Actionable Threat Intelligence from Script-Based Malware using LLMs
论文提出 SCRIPTIOC-BENCH，一个用于衡量大语言模型（LLM）从基于脚本的恶意软件中静态提取可操作威胁情报（IOC）能力的基准。脚本型恶意软件（如 JavaScript、PowerShell、VBScript）仍然是常见的攻击手
Evaluating Deep-Search Agents under Hierarchical Web Evidence Poisoning
随着搜索增强型大语言模型（LLM）智能体被广泛用于消费者决策场景，其面临的生成引擎优化（GEO）投毒攻击风险日益突出。现有安全评测基准大多只关注被操纵的内容是否被检索或认可，并未跟踪智能体是否验证可疑证据、是否修正已采纳的错误观点、以及在生