Improving the Robustness of Transformer-based Large Language Models with Dynamic Attention.
本文针对基于Transformer的大型语言模型（如BERT、GPT）在自然语言处理中的鲁棒性问题，提出了一种名为“动态注意力”（Dynamic Attention）的新型防御方法。现有研究表明，这些模型容易受到文本对抗攻击的威胁，攻击者通
#LLM
共收录 2152 条相关情报。
← 返回所有主题SV-TrustEval-C: Evaluating Structure and Semantic Reasoning in Large Language Models for Source Code Vulnerability Analysis.
该论文提出了一个名为 SV-TRUSTEVAL-C 的基准测试，用于评估大语言模型（LLM）在 C 语言源代码漏洞分析中的结构推理和语义推理能力。结构推理评估模型在不同数据流和控制流复杂度下识别代码元素间关系的能力；语义推理则检验模型在代码
Operational Evidence Gaps for LLMs in Fraud Detection and Trust-and-Safety Workflows
本文系统性地调查了大型语言模型（LLM）在欺诈检测、诈骗调查、内容审核及其他信任与安全（Trust-and-Safety）工作流中的部署证据现状。作者指出，现有公开文献大多将LLM作为独立模型进行评估，而较少关注其在运营流水线中作为组件的实
The Entanglement Wall: Activation-Space Probes as Risk Detectors, Not Context Adjudicators
该论文探讨了在大型语言模型（LLM）的安全对齐中，上下文是否会改变请求的有害性，而不改变其主题或表面形式。研究者提出了一个核心问题：残差流探针（residual-stream probes）能否在一个有用的操作点上区分有害请求与表面匹配的良
Can Watermarking Techniques Help Prevent LLM Model Stealing?
本文探讨了水印技术是否能够有效防御针对大型语言模型（LLM）的模型窃取攻击。近年来，模型窃取攻击（如Carlini等人提出的方法）能够从黑盒商业语言模型中提取精确信息，包括模型架构和隐藏层维度，威胁模型所有者的知识产权。作者受到数字水印技术
Distributed Denial of Science: How Indirect Data Poisoning of AI Systems Can Industrialize Scientific Fraud
本论文探讨了一种新型的科学欺诈攻击方式——间接数据投毒（Indirect Data Poisoning）。随着人工智能在科学研究中的广泛应用，自主研究代理（autonomous research agents）能够自动检索和处理公开数据集。
PromptGraph: Graph-Guided Prompt Sanitization for Balancing Privacy and Utility in LLM Inference
本论文针对大型语言模型（LLM）服务中的隐私保护问题提出了一种新的提示清洗方法PromptGraph。LLM推理过程中，用户的敏感信息不仅可能通过显式标识符（如姓名、电话号码）泄露，还可能通过看似无害的文本片段之间的上下文关联被推断。现有的
Effective Synthetic Image Detection via Noise Residual Clustering
本文针对生成式人工智能（AI）生成的合成图像日益逼真、可能被用于虚假信息传播和欺诈等安全威胁的问题，提出了一种无需训练（training-free）的合成图像检测方法。现有检测器大多依赖大规模标注数据进行监督训练，成本高且对未知生成模型泛化
Defending Language Models Against Image-Based Prompt Attacks via User-Provided Specifications.
本文聚焦于多模态大语言模型（MLLM）面临的基于图像的提示注入攻击防御问题。随着聊天机器人系统广泛支持图像与文本混合输入，攻击者可通过恶意构造的图像绕过文本层面的安全机制，而现有防御手段仅针对文本数据，对此类攻击几乎无效。为此，作者提出了一
Cross-Layer Misalignment Detection in Agent Skills: A Progressive Loading-Aware Contrastive Learning Approach
本文针对大型语言模型（LLM）代理在通过“代理技能”（Agent Skills）扩展功能时出现的跨层不对齐问题展开研究。代理技能是一种可复用组件，包含自然语言元数据、过程指令和执行时资源。随着开源技能市场的扩大，用户和代理主要依赖简短的元数
NetInjectBench: Benchmarking Indirect Prompt Injection in Tool-Using Large Language Model Agents for Network Operations
本文研究了在大型语言模型（LLM）代理用于网络运维（例如处理工单、告警、日志、运行手册和ChatOps消息）时面临的间接提示注入攻击问题。这类攻击可能使代理执行非预期的工具调用，导致安全风险。为此，作者提出了NetInjectBench基准
Temporary Authority, Permanent Effects: Commit-Time Authorization for LLM Agents
该论文由Igor Santos-Grueiro撰写，研究了LLM agent在执行过程中由于使用早期有效权限证据（如DOM快照、批准epoch、版本见证、分支令牌或工作器结果）而导致持久效果（durable effects）的安全问题。作者
Large Language Models in Misinformation Ecosystems: Misuse, Defense, and Vulnerability
该论文系统性地探讨了大语言模型（LLM）在虚假信息生态系统中的多重角色与影响。作者指出，LLM已将虚假信息从单纯的内容问题转变为生态系统级别的安全挑战。当被滥用时，LLM不仅能够生成虚假内容，还能攻击虚假信息防御所依赖的社会语境、证据来源、
Understanding Implicit Trust Errors in Core Carrier Networks through Multi-Agent Flaw Discovery and Analysis
该论文聚焦于蜂窝核心网络（Core Network, CN）中的隐式信任错误（Implicit Trust Errors, iTrue）漏洞。传统上，核心网络内部接口依赖于物理隔离来保证安全，但随着云原生部署的推广，这种信任假设被打破，攻击
Devil in the Lens: Analyzing and Defending Physical Prompt Injection Against Vision-Language Models on Wearable Devices
该论文首次系统性地研究了针对可穿戴设备（如智能眼镜）上视觉-语言模型（VLM）的物理提示注入攻击。作者指出，随着VLM被部署在人脸朝向的可穿戴设备上，物理环境中的恶意文本（如广告牌、海报上的敌意文字）可以作为间接提示注入的视觉通道，劫持VL
One Token Is Enough: Fingerprinting and Verifying Large Language Models from Single-Token Output Distributions
该论文提出一种轻量级的LLM指纹识别与验证方法，仅需单token输出分布即可区分不同模型。当前LLM服务常通过不透明的API聚合器、转售商或推理提供商提供，客户端无法技术验证所调用模型是否与宣称一致，且已有审计发现相当比例的商用端点与供应商
When Are Sparse Feature Interventions Actually Localized? Matched Evaluation for SAE-Based Safety Control
该论文研究了稀疏自编码器（SAE）特征是否能在运行时安全干预中作为局部化控制句柄。核心问题在于，表面上的成功可能源于弱干预、不匹配的基线、模型鲁棒性或自动安全评判员误判（将退化输出标记为不安全，而非真正有害的合规）。作者提出了一种匹配相干门
Which Neurons Detect Malicious Code? A Probing Study of LLM Security Knowledge
本文研究了大语言模型（LLM）内部如何识别恶意代码的机制。尽管LLM在代码补全、漏洞检测等软件工程任务中表现优异，但其识别恶意或漏洞代码的内部工作机制仍不透明。作者采用机械可解释性方法，对三个指令微调的LLM（Llama3.1-8B-Ins
Toward Stronger Code Watermarking: A Grammar-Driven Approach to Optimizing the Trade-off Between Quality and Detectability
随着大型语言模型（LLM）的快速发展，文本水印技术成为识别机器生成内容的关键手段。然而，现有基于logits的水印方法直接应用于代码生成时面临挑战：代码的低熵特性加剧了代码质量与水印可检测性之间的权衡。本文提出一种名为Grammar-Dri
A Survey on LLM Watermarking: Theory and Deployment
本文是一篇关于大语言模型（LLM）水印技术的系统性综述，从理论和部署两个维度对现有研究进行了全面梳理。随着LLM在多个高影响力场景中的广泛应用，其生成的流畅文本带来了来源模糊、模型滥用和大规模内容洗稿等风险。LLM水印通过向模型输出中嵌入不