Compile-time Security Analysis and Optimization of Sensitive String Producers
本文针对软件中普遍存在的内容组合漏洞（如XSS、注入），指出现有缓解手段（开发者培训、静态分析、模板语言）效果递减，且AI代码生成继承了训练数据中的不安全模式并缺乏自我纠正的可靠上下文。作者提出一个通用安全内容组合框架，该框架跨内容语言扩展
#LLM
共收录 2152 条相关情报。
← 返回所有主题PCDM: A Diffusion-Based Data Poisoning Attack Against Federated Learning Systems
联邦学习（FL）因其分布式特性易受数据投毒攻击。现有基于GAN的投毒方法虽能生成看似合法的恶意数据，但GAN输出的内在一致性仍会暴露投毒痕迹。本文提出一种基于扩散模型的数据投毒框架，利用面向投毒的条件扩散模型（PCDM）实现对本地恶意数据生
Who Owns This Agent? Tracing AI Agents Back to Their Owners
该论文首次正式提出了AI代理（AI Agent）的归属问题（agent attribution）：即如何将一个观察到的有害代理交互行为追溯到其部署账户（托管供应商）。当前AI代理被广泛部署以自主执行任务，但缺乏有效的追踪机制，导致良性操作者
PersonaFingerprint: Measuring Persona Inference on Modern Websites with LLM-Driven Browsing
本文提出了一种新的隐私风险：攻击者可以通过分析加密网络流量的元数据（如数据包长度和到达间隔时间序列），推断用户在线浏览时的“persona”（角色或行为模式），而不仅仅是访问了哪个网站。传统网站指纹识别（WFP）主要关注识别用户访问的网站，
From AI-Generated Content to Agentic Action: Security and Safety Threats in Generative AI
该论文系统性地研究了生成式AI系统从单纯的内容生成向具备数据检索、工具调用和动作执行能力的代理化转变过程中面临的安全与安全威胁。作者将威胁划分为三个层次：内容级（如生成虚假信息、有害内容）、模型级（如提示注入、模型提取）和代理级（如工具链滥
A Multi-Layer Cloud-IDS Pipeline with LLM and Adaptive Q-Learning Calibration
该论文针对云计算环境中入侵检测系统（IDS）面临的挑战——分层动态架构、未知攻击/零日攻击，以及机器学习模型在实验环境表现良好但在实际云部署中性能下降的问题，提出了一种基于强化学习的多层级、置信度感知的入侵检测框架。系统覆盖网络层、主机层和
Asking Back: Interaction-Layer Antidistillation Watermarks
这篇论文针对大型语言模型（LLM）API服务中难以检测的未授权知识蒸馏问题，提出了一种新颖的交互层反蒸馏水印方案。现有防御手段主要在教师模型的输出token层面施加水印，例如绿名单水印、密码学方案或反蒸馏采样，但这些方法容易被攻击者通过改写
Propagating Unsafe Actions in LLM Controlled Multi-Robot Collaboration via Single Robot Compromise
本文研究了在大语言模型（LLM）控制的多机器人协作系统中，通过单一机器人被攻陷后传播不安全行为的安全威胁。随着LLM在具身智能中作为通用规划器的广泛应用，其在高层次协调和低层次任务规划中发挥关键作用，但同时也引入了新的安全风险：被操纵或对齐
MetaBackdoor: Exploiting Positional Encoding as a Backdoor Attack Surface in LLMs
该论文提出了一种新型后门攻击方法 MetaBackdoor，利用 Transformer 架构中位置编码 (Positional Encoding) 的内在特性作为触发器，而不需要修改输入文本内容。现有的后门攻击大多依赖内容触发器（如特定词
Talk is (Not) Cheap: A Taxonomy and Benchmark Coverage Audit for LLM Attacks
本文提出一个可复用的框架，用于审计LLM攻击基准测试对威胁表面的覆盖度。作者从932篇2023-2026年的arXiv安全研究中提取了507个叶节点（其中401个有数据填充，106个来自威胁模型推导）的推理时攻击分类法，并基于STRIDE模
Veritas: A Semantically Grounded Agentic Framework for Memory Corruption Vulnerability Detection in Binaries
本文提出 Veritas，一个基于语义的二进制内存破坏漏洞检测框架。针对剥离二进制文件中恢复对象语义、跨过程传播和可行触发条件的难点，Veritas 结合了三个关键组件：首先，一个基于 RetDec 提升的 LLVM IR 的静态切片器，重
WARD: Adversarially Robust Defense of Web Agents Against Prompt Injections
本文针对 Web Agent 在开放网络环境中面临的提示注入攻击风险，提出了一种鲁棒防御模型 WARD。Web Agent 可通过与网站交互自动完成在线任务，但其依赖的 HTML 内容或视觉界面易被嵌入恶意指令，导致提示注入攻击。现有防护模
Toward Securing AI Agents Like Operating Systems
本文探讨了基于大型语言模型（LLM）的自主智能体（AI Agent）的安全问题，类比操作系统安全视角。作者指出，LLM Agent与操作系统在资源隔离、权限分离和通信中介方面面临类似挑战。通过调研当前开源Agent（如OpenClaw）的现
Do Coding Agents Understand Least-Privilege Authorization?
该论文研究了编程代理（coding agents）在执行终端任务时遵循最小权限授权原则的能力。最小权限授权要求代理仅获得完成任务所必需的权限，避免暴露敏感表面。作者首先定义了“权限边界推断”（permission-boundary infe
Known By Their Actions: Fingerprinting LLM Browser Agents via UI Traces
本研究探讨了基于 LLM 的浏览器代理在执行网页任务时，其行为模式是否可被网站被动识别以推断底层模型身份。作者针对 14 个前沿 LLM（如 GPT-4、Claude 等）和四种网页环境（包括信息检索和购物任务）进行了实验。通过被动 Jav
EVA: Editing for Versatile Alignment against Jailbreaks
大型语言模型（LLMs）和视觉语言模型（VLMs）在展现强大能力的同时，仍容易受到越狱攻击（jailbreaking attacks）的威胁，攻击者利用文本或视觉触发器绕过安全护栏。现有的防御方法通常依赖安全微调或外部过滤器来降低模型生成有
Adapting AlphaEvolve to Optimize Fully Homomorphic Encryption on TPUs
全同态加密（FHE）在规模化部署中面临巨大的计算开销。虽然专用硬件加速器（如Google TPU）可以提供帮助，但将复杂的密码学内核映射到此类架构上仍然具有挑战性。高效执行需要对基于脉动阵列的矩阵乘法单元（MXU）和向量处理单元（VPU）进
One Step to the Side: Why Defenses Against Malicious Finetuning Fail Under Adaptive Adversaries
随着大语言模型（LLM）的广泛应用，模型提供商越来越多地发布开放权重或允许用户通过API进行微调。尽管这些模型在发布前经过了安全对齐（safety alignment），但大量研究表明，通过针对有害数据的微调可以轻易移除其安全护栏。为此，近
Defenses at Odds: Measuring and Explaining Defense Conflicts in Large Language Models
该论文首次系统研究了大型语言模型（LLM）在顺序部署场景下的防御冲突问题。现实应用中，LLM 提供商会不断增量地修补模型以应对新出现的漏洞或数据删除请求，而非从头重新训练。然而，现有防御措施几乎都是在单次部署假设下独立评估的。论文提出了一个
Exploiting LLM Agent Supply Chains via Payload-less Skills
该论文研究了一种针对LLM驱动的自主Agent的新型供应链攻击方法——语义合规劫持（SCH）。随着Agent通过第三方技能市场集成外部功能，攻击面扩大。现有安全审计机制依赖代码扫描识别显式payload或预定义威胁内容，但若恶意行为不含直接