MemMark: State-Evolution Attribution Watermarking for Agent Long-Term Memory Systems
该论文提出了一种名为 MemMark 的状态演化归因水印方法，旨在解决基于大语言模型（LLM）的智能体长期记忆系统中的归因问题。在传统的记忆系统中，智能体的行为通常通过日志、可见输出或受信任的元数据进行追踪。然而，当记忆快照被泄露或迁移时，
#LLM
共收录 2152 条相关情报。
← 返回所有主题APT-Agent: Automated Penetration Testing using Large Language Models
该论文提出了一种基于大型语言模型（LLM）的全自动渗透测试框架 APT-Agent，旨在解决传统手动渗透测试难以应对现代Web基础设施的规模和复杂性，以及现有LLM方法中存在的技术实体幻觉和长期上下文记忆不足的问题。APT-Agent系统化
Memory-Induced Tool-Drift in LLM Agents
该论文研究了现代LLM代理系统中长期记忆与工具调用接口结合时出现的一种新故障模式：存储在记忆中的个性驱动偏见（如成本意识、不耐烦、风险承受能力等）会在不相关的情境中悄然影响工具调用，作者称之为“记忆诱导的工具漂移”。为了系统化研究这一现象，
Inverting the Shield: Systematically Generating Safety Tests from Policy Specifications
大型语言模型（LLM）的广泛部署迫切需要系统化的安全评估方法。现有方法要么依赖预定义视角的静态基准测试，要么采用动态红队探测潜在漏洞，但均存在依赖专家知识、缺乏系统保证、容易过时等局限。针对这些问题，本文提出 POLARIS 框架，将基于规
Turning Bias into Bugs: Bandit-Guided Style Manipulation Attacks on LLM Judges
本文针对LLM作为评判者（LLM-as-a-judge）模式中存在的文体偏见问题，提出了一种名为BITE（BIas exploraTion and Exploitation）的黑盒对抗攻击框架。研究背景是：LLM评判器在评估文本时，会表现出
MemMorph: Tool Hijacking in LLM Agents via Memory Poisoning
本文提出了一种针对LLM驱动智能体的新型攻击方法MemMorph，通过污染智能体的长期记忆来劫持其工具选择过程。现有攻击主要操纵工具元数据，容易被审计检测，并且随着现代智能体越来越多地采用记忆模块通过积累经验来优化工具选择策略，这些攻击可能
Reflect-Guard: Enhancing LLM Safeguards against Adversarial Prompts via Logical Self-Reflection
本论文提出 Reflect-Guard，一种通过逻辑自我反思增强大型语言模型（LLM）安全分类器的方法。现有的安全分类器如 Llama Guard 能有效检测明显有害的提示，但难以应对通过角色扮演、虚构场景和间接请求伪装恶意意图的对抗性越狱
RouteScan: A Non-Intrusive Approach to Auditing MoE LLMs Safety via Expert Routing Telemetry
本文针对混合专家（MoE）大规模语言模型在部署中的安全审计问题，提出了一种非侵入式的审计框架RouteScan。现有的基于内容的审计方法需要访问用户提示、模型输入或生成输出，这可能导致敏感用户信息泄露，在LLM安全性与用户隐私之间产生根本性
CyberMaskQA: A Privacy-Aware Benchmark for Evaluating Large Language Models in Cybersecurity Question Answering
本论文提出并构建了 CYBERMASKQA，一个面向网络安全问答的隐私感知基准数据集。当前，大型语言模型（LLM）被越来越多地用于事件响应、漏洞分析等关键网络安全问答任务，但真实操作环境中的系统日志、网络配置等上下文往往包含 IP 地址、主
Demystifying the Mythos or Disrupting Bugonomics? From Zero-Day Asymmetry to Defender Remediation Throughput
本论文从“漏洞经济学”（bugonomics）的视角，系统分析了由大型语言模型（LLM）驱动漏洞发现所带来的成本与激励变化。传统上，高端漏洞经济以攻方定价为主，因为生产级零日漏洞和利用链是昂贵且专业化的输出，主要服务于政府、中间商和进攻性供
Ellipsoid Control: A White-list Jailbreak Defense via Benign Latent Modeling
该论文提出了一种名为“Ellipsoid Control”的新型越狱防御方法，旨在克服基于表示工程（RepE）的防御方法依赖黑名单监督的固有缺陷。现有RepE防御通过学习有害或越狱数据到拒绝响应的激活变换来实现防护，但这类黑名单方法受限于已
Poisoning the Watchtower: Prompt Injection Attacks Against LLM-Augmented Security Operations Through Adversarial Log Content
本文研究了大语言模型（LLM）在安全运营中心（SOC）中作为分析师助手时面临的一种结构性缺陷：许多日志字段（如用户代理、URL、载荷、DNS查询、尝试用户名等）是攻击者可控制的，这些字段在输入给LLM进行分析时，可能携带恶意指令，从而引发提
Reframing LLM Agent Security as an Agent-Human Interaction Problem
本文提出了一种新视角，认为LLM Agent的安全本质上是Agent与人类交互（Agent-Human Interaction, AHI）问题，而不仅仅是纯算法问题。作者系统分析了截至2026年4月的59篇学术论文、21个生产级Agent系
Enhancing Reliability in LLM-Based Secure Code Generation
本文针对大型语言模型（LLM）在代码生成中安全可靠性不足的问题，提出了一种名为“缓解感知链式思维”（MA-CoT）的框架。现有提示工程主要提升功能正确性，但难以保证一致的安全性。MA-CoT通过嵌入任务特定的CWE（通用弱点枚举）缓解指导和
An Empirical Evaluation of LLM-Generated Code Security Across Prompting Methods
本研究针对大型语言模型（LLM）在自动代码生成中存在的安全问题，进行了全面的实证评估。尽管LLM显著提升了软件开发效率，但其生成的代码常因忽略关键安全考量（如弱加密、输入验证不当）而存在漏洞。作者选取了五种LLM和四种编程语言（Java、C
Safety-Oriented Routing Analysis of Mixtral MoE Under Benign and Harmful Prompts
本文系统分析了Mixtral 8x7B-Instruct稀疏混合专家（MoE）模型在良性提示和有害提示下的路由行为。研究采用两种互补信号：基于专家选择频率的激活路由得分和基于路由器-门灵敏度的梯度得分，从专家级和层级两个尺度进行剖析，并开展
Deep-Research Agents Can Be Poisoned via User-Generated Content
该论文研究了深层研究智能体（deep-research agents）的安全漏洞。这类系统通过多智能体管道迭代检索、综合并引用网络内容，以生成结构化报告，正快速替代传统搜索。研究指出，在许多常见搜索主题中，这些智能体在单次研究会话中会多次检
Agent-ToM: Learning to Monitor Autonomous LLM Agents via Theory-of-Mind Reasoning
本文提出 Agent-ToM，一个基于心理理论（Theory-of-Mind, ToM）推理的监控框架，用于检测自主大语言模型（LLM）代理的隐蔽恶意行为。现有监控方法通常将每条轨迹独立处理，未利用历史监控经验，且缺乏对代理信念、意图和目标
CHRONOS: Temporally-Aware Multi-Agent Coordination for Evolving Data Marketplaces
该论文提出了CHRONOS，一种针对时态知识图谱数据市场的三层架构，旨在解决静态设计中的三个耦合失效问题：陈旧混合索引导致召回率下降、静态Shapley定价在分布偏移后价值误分配、未协调的代理过度消耗共享差分隐私预算。第一层采用神经ODE时
Validating Threat Modeling Results with the Help of Vulnerable Test Applications
本文研究如何验证威胁建模结果的有效性。传统的验证方法通常依赖专家产生的参考模型或人工基线，但这些方法可能存在遗漏或意见不一致的问题。作者提出一种基于易受攻击的测试应用（vulnerable test applications）的互补验证方法