LLM Anonymization Against Agentic Re-Identificatio
随着具备网络搜索能力的智能体LLM（如AutoGPT、WebGPT）的普及，文本匿名化的威胁模型发生了根本性变化：即使是看似弱小的上下文线索（如时间、地点、角色名称等）也可能被攻击者通过跨网页交叉引用成功关联，从而重识别出个人身份。然而，这
#LLM
共收录 2152 条相关情报。
← 返回所有主题Send a SCOUT First: Pre-hoc Reasoning for Adaptive Detector Allocation in Prompt-Injection Defense
本文针对提示注入攻击的防御问题，指出现有检测器存在异质性：每个检测器在不同攻击类型上表现各异，没有单一检测器始终可靠。然而，现有系统仍采用固定单检测器流水线，将每个请求都交给同一个检测器处理，从而暴露于其盲区。作者提出将防御重新定义为检测器
Depth-Dependent Indirect Prompt Injection in Tool-Calling ReAct Agents: Injection Depth, Payload Framing, and Turn-Budget Sensitivity
该论文研究了工具调用ReAct智能体（如GPT-4o-mini和Claude Haiku）在面对间接提示注入攻击时的脆弱性。ReAct智能体交替进行链式思考推理和工具调用，广泛应用于日程安排、文件检索等实际任务。其工具观测循环存在攻击面：攻
Automatically Attacking Software Reverse Engineering AI Agents
该论文研究了针对大型语言模型（LLM）驱动的逆向工程 AI 代理的自动化攻击方法。随着 LLM 被集成到如 Ghidra 等二进制逆向工程工具中，自动化分析流程得以实现，但同时也引入了新的安全风险。作者提出了一种基于遗传算法的提示生成技术（
Audio Pirates: Black-box Audio Watermark Removal via Diffusion Priors
随着AI生成音频的普及，水印技术被广泛用于检测滥用和保护知识产权。然而，攻击者可能试图移除这些水印，因此评估水印方案对移除攻击的鲁棒性至关重要。现有攻击方法往往不切实际：要么明显降低感知质量，要么需要访问水印方案的具体细节。本文提出Diff
CacheProbe: Auditing Prompt Cache Isolation in Gateway APIs
本文研究大型语言模型（LLM）推理API中提示缓存（prompt caching）实现的安全隔离问题。提示缓存通过复用请求的KV缓存来节省计算资源并加速响应，但许多实现存在时序攻击或元数据泄露风险。Gu等人（ICML 2025）已提出一种审
An Organization-Scoped LLM Agent Runtime Architecture for Regulated Cybersecurity Operations
这篇论文针对受监管的网络安全运维场景，指出现有的大语言模型（LLM）代理系统虽然在孤立的网络安全任务上表现良好，但缺乏一个能够跨检索、工具调用、记忆、发现、报告和审计强制执行组织级范围、同时保持模型无关且可本地部署的运行时平台。特别是在安全
Token-Level Generalization in LoRA Adapter Backdoors: Attack Characterization and Behavioral Detection
该论文研究了针对LoRA适配器（当前微调大语言模型的主流格式）的后门攻击及其检测方法。作者通过数据投毒在LoRA适配器中植入后门，同时保持基准任务性能不受影响。以Qwen 2.5 1.5B提示注入分类器为例，少量有毒样本即可使后门达到饱和，
BioRefusalAudit: Auditing Biosecurity Refusal Depth Using General and Domain-Fine-Tuned Sparse Autoencoders
该论文研究了语言模型在生物安全场景下的拒绝行为可靠性。传统评估关注模型是否生成有害输出，但本论文提出一个补充问题：当模型拒绝时，其拒绝是否结构稳固，抑或在提示措辞、格式或输出长度的微小变化下消失？作者在五种架构（Gemma 2 2B-IT、
How Reliable Are AI Attackers Against a Fixed Vulnerable Target? A 400-Run Empirical Study of LLM Penetration Testing Consistency
本文针对大型语言模型（LLM）作为自主攻击者的行为一致性进行了首个大规模实证研究。研究团队在固定提示词、编排器和目标环境（包含OWASP Juice Shop及两个附加易受攻击服务的蜜罐）的条件下，对四种LLM（Claude Sonnet
Token Inflation: How Dishonest Providers Can Overcharge for Large Language Model Usage
本文研究了大型语言模型（LLM）商业服务中按token计费模式下的审计漏洞。当前主流计费方式是基于token数量收费，但服务提供商出于保护知识产权、防御越狱攻击和用户隐私等理由，隐藏了模型、分词器及执行细节，使得用户难以独立验证计费toke
Honeyval: A Comprehensive Evaluation Framework for LLM-powered HTTP Honeypots
该论文提出了 Honeyval，一个针对基于大型语言模型（LLM）的 HTTP 蜜罐的全面评估框架。蜜罐是一种模拟真实系统组件的诱饵，用于防御网络攻击。近年来，LLM 越来越多地被用作蜜罐的模拟后端，使防御者能够构建高交互蜜罐，同时降低系统
Hijacking Agent Memory: Stealthy Trojan Attacks Through Conversational Interaction
本文提出了一种针对大型语言模型（LLM）智能体长期记忆系统的隐蔽后门攻击方法——MemPoison。LLM智能体通过长期记忆支持持续自主的任务执行，但记忆系统的选择性提取和重写机制使得传统记忆投毒攻击难以生效。MemPoison通过对话交互
Dissecting the Black Box: Circuit-Level Analysis of LLM Vulnerability Detection
本文采用机械可解释性方法深入分析大语言模型（LLM）检测软件漏洞的内部计算机制。研究以Gemma-2-2b模型为对象，使用Circuit Tracer工具追踪其在分类472个C/C++代码样本（含漏洞与安全代码）时激活的计算路径。令人惊讶的
NumLeak: Public Numeric Benchmarks as Latent Labels in Foundation Models
本研究揭示了大型基础语言模型在预训练阶段可能无意中记忆了公开的数值基准数据（如金融因子、经济指标、气候数据），导致基于时间截断的评估实际上测量的是模型的记忆能力而非泛化能力。作者提出了 NumLeak 测量框架，该框架结合了对生产环境闭源模
AgentDoG 1.5: A Lightweight and Scalable Alignment Framework for AI Agent Safety and Security
该论文针对开放世界AI代理（如OpenClaw）在跨环境执行时引入的新型安全风险，提出了一种轻量级、可扩展的代理安全对齐框架AgentDoG 1.5。研究背景指出，现有前沿AI模型大幅降低了攻击门槛，而当前的对齐框架不足以应对真实部署中的威
SciIntBench: Measuring LLM Compliance with Research Integrity Norms Under Adversarial Framing
该论文提出了一个名为 SciIntBench 的对抗性基准测试，用于评估大型语言模型（LLM）在研究诚信规范下的行为。研究背景是：LLM 越来越多地用于支持科学工作，但它们是否会维护或破坏负责任的研究行为（RCR）尚不清楚。作者设计了 81
Harmless Yet Harmful: Neutral Prompting Attacks for Stealthy Hallucination Steering in Agent Skills
本文研究了LLM驱动的代码智能体在软件供应链中引入的新风险。代码智能体越来越多地参与软件开发流程，包括生成代码、选择依赖项和产生包安装命令。当智能体幻觉出一个不存在的包名时，攻击者可以注册该幻觉包名，进而危害安装该包的用户。现有的包幻觉攻击
HunterAgent: Neuro-Symbolic Attack Trace Reconstruction under Anti-Forensics
这篇论文针对高级持续性威胁（APT）场景下的攻击溯源重建问题，提出了一种神经符号框架 HunterAgent。现代安全运营中心（SOC）虽能通过告警筛选减少误报，但面对使用反取证技术（如父进程PID欺骗、日志擦除、无文件执行）的APT攻击时
Provably Secure Agent Guardrail
本文针对大型语言模型从有限生成引擎向具有广泛执行权限的智能代理转型过程中出现的失控问题，提出了一种基于逻辑推理基本局限性的新型安全范式。现有防御架构主要依赖经验性语义护栏和概率性大模型裁决器，无法在复杂语义符号解耦攻击下提供确定性安全下界。