When Agents Talk: Honeytokens under Shared Memory
本论文基于2026年一次网络能力评估中的观察，探讨了在共享内存环境下蜜标（honeytoken）对AI代理的防御有效性。评估中，短期存活的AI代理将共享包仓库作为持久记忆，将漏洞利用发现传递给后续代理，并在该通道被移除后重建它。最终评估以侵
#LLM
共收录 2152 条相关情报。
← 返回所有主题A Study of Kernel Telemetry Options for Security-Oriented Provenance
本论文围绕安全取证场景下的系统溯源（provenance）展开，系统性地研究了主流内核遥测（kernel telemetry）采集方案。作者首先梳理了现有的溯源捕获方法，对比了基于内核模块、硬件辅助、以及 eBPF 等技术路线的优劣，认为
AI Guardrail Survival under Single-Cycle Agentic Self-Summarization
本文研究了长期运行的智能体（agent）在上下文压缩（context compaction）过程中，安全护栏（safety guardrail）如何因单一周期的自我摘要（self-summarization）而失效。长期智能体通常需要周期性
Backdoor Decontamination Dynamics in LLM Agents
本文研究开放权重 LLM 智能体在微调阶段可能被植入后门的安全问题。此类后门在测试阶段若触发条件未满足，可能无法被检测到。由于防御者不知道原始触发条件，无法直接“忘记”该后门。一种去污（decontamination）策略是安装一个已知后门
Dueling Deep Q-Learning for Intrusion Detection
本文针对传统入侵检测系统（IDS）依赖监督式机器学习方法、难以快速适应新型攻击类型的问题，提出了一种基于奖励的决斗深度Q学习（Dueling Deep Q-Learning）模型。该模型采用决斗网络架构，将Q值预测拆分为状态价值流（valu
Once Poisoned, Arbitrarily Controlled: A Programmable Backdoor in VLMs
该论文提出了一种面向视觉语言模型（VLM）的可编程后门攻击方法，挑战了传统后门攻击“静态绑定”的假设。传统攻击中，触发器与目标输出在训练阶段固定绑定（一对一或N对N），攻击者无法在推理时动态选择目标。本文作者证明，仅需一次中毒训练，即可在V
Knowledge-Graph-Guided Retrieval-Augmented LLMs for Explainable Root Cause Analysis in Automotive HiL Validation
硬件在环（HiL）验证是汽车软件系统开发中的关键环节，会产生大量多元时间序列数据。人工分析耗时且通常仅能实现异常检测和故障分类，难以进行根本原因分析。深度学习方法在故障检测和分类上虽表现优异，但面临两个主要局限：一是当故障位置、系统或操作条
A Gateway Architecture for Enterprise MCP Authentication: Unifying Heterogeneous Auth, Identity Delegation, and the User / Non-User Persona Problem
本文报告了一种面向 Model Context Protocol (MCP) 的企业级网关认证架构。MCP 已成为将 LLM 代理连接到企业工具的事实标准接口，但其快速采用带来了治理危机：大型组织在一年内从零部署到数十个内部 MCP 服务器
Agent Safety Should Be a Runtime Contract
该论文对当前人工智能安全的主流范式提出结构性批评，认为仅靠训练阶段的对齐方法（如RLHF、DPO、Constitutional AI）无法充分保障自主智能体的安全。作者主张，智能体安全应被设计为一种由执行环境（harness）强制实施的“运
On Understanding, Identifying, and Mitigating Vulnerabilities in Agentic Large Language Models
该论文对智能体大语言模型（Agentic LLM）的安全脆弱性进行了系统性综述研究。随着大语言模型从无状态对话接口演变为具备多步规划、工具调用、代码执行和持久记忆的自主智能体，其在实际系统中获得API调用、文件修改和数据库查询等真实权限时，
Logit-Boundary Geometric Belief Interfaces and Sparse Sheaf-Enclave Protocols: A Self-Contained Substrate for Secure Network Electronic Health Record (EHR) Interoperability
该论文针对电子健康记录（EHR）互操作性中的安全边界问题，提出了一套数学与工程架构。作者指出，传统系统、生成模型、术语服务、身份系统及人工审核者各自暴露丰富内部状态，而实际业务交换需要一种窄化的共享接口，以承载类型化声明、有限不确定性、来源
From Prompt Injection to Web Exploitation: Revisiting Classic Vulnerabilities in LLM-Integrated Applications
本文研究了大语言模型（LLM）集成应用中的一类新型安全威胁，即“LLM 中介的 Web 攻击”（LLM-mediated web attacks）。随着 LLM 越来越多地被集成到 Web 应用中，用于聊天机器人、工具调用和智能体流程，用户
Withholding the Completing Chunk: Deterministic Pair-Completion Guardrails for Streaming LLM Output
流式大语言模型（LLM）输出在逐 token 释放时面临审核时机困境：若等待完整输出再审核，敏感内容已经到达用户；若对每个前缀反复进行语义分类，则计算开销大且结果不稳定。本文提出一种确定性的配对完成防护栏（pair-completion g
Generating Attacks for LLMs with GFlowNets
本文提出了一种基于生成流网络（GFlowNets）的自动化红队测试方法，用于发现大语言模型（LLM）的安全漏洞。研究背景是：随着LLM在各行各业被广泛部署，其固有的安全隐患日益突出，而传统红队测试多依赖人工专家或固定的攻击数据集，前者耗时费
MarkNull: Model-Agnostic Watermark Removal in AI-Generated Images via On-Manifold Latent Manipulation
本文提出 MarkNull，一种模型无关的 AI 生成图像水印去除攻击，通过在流形上的潜在操作实现。现有攻击要么只对特定生成模型有效，要么导致严重视觉退化。作者观察到水印图像在生成潜在表示与嵌入初始噪声之间存在统计依赖，提出噪声-潜在对齐分
Stealing Reasoning Traces from Proprietary LLM APIs
本文揭示了大型语言模型（LLM）提供商在客户端保存加密推理轨迹所引入的严重安全漏洞。许多主流提供商（如 Anthropic、OpenAI、Google）为避免泄露模型内部推理过程（即思维链），通常将推理步骤以加密块形式返回给客户端，并要求客
Generative AI for Encrypted Traffic Analysis: Synthetic Dataset Generation and Classifier Evaluation
该论文针对加密流量分析中的两大核心挑战展开研究：一是加密通信导致数据包内容可见性有限，使得传统深度包检测方法失效；二是可用数据集中异常流量样本极度不平衡，导致模型训练效果不佳。为应对这些问题，作者提出利用生成式人工智能（GAI）技术来构造逼
ColluSkill: Adversarial Cross-Skill Composition for Evading Agent Skill Scanners
本文针对基于LLM的智能体系统中的技能（skill）攻击面展开研究。作者首先对现有技能扫描器进行实证分析，发现当前防御机制主要针对单个技能进行安全检查，忽略了对跨技能组合（cross-skill composition）风险的评估，从而留下
Activation Probes Surface Code-Security Signals that the Model's Output Misses
该研究针对AI编码代理生成代码的安全审查瓶颈问题展开。随着AI编码代理在生产环境中生成越来越多代码，人工安全审查的速度难以匹配代码生成速度。对于广泛使用的闭源权重模型，部署团队无法读取其内部结构，但可以使用开源权重模型作为代理输出的审查器，
Measuring the Wrong Thing: Internal Harmfulness Scores Anti-Rank Successful Jailbreaks
本文针对大语言模型（LLM）内部安全评分机制的有效性提出质疑，指出当前广泛使用的“有害意图”评分存在测量目标错位问题。具体而言，内部安全分数在文本生成之前评估提示词，其验证方式通常基于能否区分有害与良性提示，但这种分离被错误地解读为能够拦截