The Poisoned Conversation: Privacy-Leaking Watermarks in Unified Multimodal Models
该论文关注统一式多模态模型（unified multimodal models）带来的新型隐私威胁。此类模型在同一个对话上下文中既能理解也能生成文本、图像等多种模态，交互更流畅自然，但这一设计也改变了原有的隐私威胁模型：对话某一部分暴露的信
#LLM
共收录 2152 条相关情报。
← 返回所有主题ContractLens: Latent Security Knowledge for Malicious Smart Contract Detection
该论文聚焦 Web3.0 生态中的恶意智能合约审计问题。背景是：基于大语言模型（LLM）的合约审计方法目前主要依赖提示工程（prompt engineering）或针对特定攻击类型的微调，而对 LLM 内部究竟依靠哪些表征来完成恶意逻辑识别
Hidden Risks of Jev: An Empirical Study of Security, Privacy, and Dual Use
该论文针对新兴的 "Jev" 接口开展首次系统性安全、隐私与双用途研究。Jev 能将自然语言问题转化为带类型的答案与概率，具备低延迟、低成本特点，可作为应用决策层，用于请求路由、工具选择等。作者使用官方 Jev API 与本地可训练、可更新
The Same Zero: Why Identical ASR Can Imply Different Guarantees in LLM-Agent Security
该论文指出当前 LLM 智能体（LLM-Agent）安全领域已积累大量防御手段——提示词加固（prompt hardening）、内容过滤、权限闸门、沙箱等——但缺乏统一框架告诉部署者一项防御究竟提供了什么保证、这种保证来自何处。作者引入「
Beware EviLLM: Enabling Vulnerability Injection via Large Language Models
该论文研究了 AI 辅助代码生成（LLM 根据自然语言需求生成代码）场景下的一种新型供应链攻击面，作者将其命名为 EviLLM 攻击。此前相关研究多集中在两类不太现实的威胁模型：一是良性场景，即漏洞是 LLM 无意中引入的；二是非常规威胁模
Certified Mechanistic Edits: Behavioral Guarantees for Skill Removal and Preservation
该论文关注神经网络“机制编辑”的可验证性，即通过消融、权重编辑或激活引导，从模型中移除某一有害能力（或技能），同时尽量保留其他有用能力。现有做法通常只靠测试集验证编辑效果，但有限测试无法覆盖连续、无穷的输入空间，因此无法保证在所有输入区域都
Passing the Test You Trained On: Re-evaluating Prompt-Injection Detectors for LLM Agents
这篇论文研究一个在 LLM Agent 安全部署中非常现实的问题: 当团队要为 Agent 选择提示注入(prompt injection)检测器来筛查工具输出(tool outputs)时, 通常依据的是厂商或论文在公开基准上的分数, 但
Persona Guardrail: A Production-Grade Defense Framework for Agentic Systems
该论文关注的是基于大语言模型的智能体（agent）在生产环境中的功能边界失控问题。作者指出，当前多数运行时护栏（runtime guardrail）主要针对提示注入等特定攻击行为，且普遍在黑盒威胁模型下工作，难以保证智能体「只在被授权的功能
Defense-in-Depth at the Perception-Reasoning Interface of LLM-Centric Agentic UAV Swarms
该论文研究的是以 LLM 为核心的智能体化无人机蜂群（LLM-Centric Agentic UAV Swarms）在「感知—推理接口」处面临的完整性风险，并首次对该接口的纵深防御做了完整实现与量化评估。研究背景是：LLM 越来越多地被用于
EvoRiskBench: An Evolving Benchmark for Runtime Security Risks in Workspace Agents
该论文针对「工作区智能体」（Workspace Agents）的运行期安全风险，提出了一个可持续演进的基准测试框架 EvoRiskBench。工作区智能体将大语言模型与执行框架（harness）结合，能够执行有状态、多步骤的任务，并访问或修
Securing Computer-Use Agents Against Branch Steering Attacks
该论文研究的是计算机使用代理（Computer-Use Agents, CUA）在图形界面环境下面临的一类新型间接提示注入风险——分支引导攻击（branch steering attack），并提出相应的防御架构 COBRA。背景方面：现代
SecJev: Bringing Security Expertise to System One Decision Models
该论文提出 SecJev，作者称其为首个面向安全领域的 Jev 类决策模型家族，参数规模覆盖 0.8B 到 9B。其出发点是：安全运营流程需要模型把复杂观测与显式策略转化为可执行决策，而 Jev 提出的 System One 模型能输出带类
Digital Twin-Assisted Mapping of ICS Telemetry to ATT&CK for ICS with Evidence-Driven Dependency Reasoning
该论文研究工业控制系统（ICS）遥测数据中攻击行为重建的难题：工艺过程观测往往直接反映物理状态的变化（如阀门开度、液位、压力），而不直接反映导致这些变化的操作者动作，因此从遥测反推对抗行为存在语义鸿沟。作者提出一个数字孪生（Digital
Frequency Is Not Sensitivity Identifying Safety-Sensitive Experts in Sparse MoE LLM
本文研究稀疏混合专家(MoE)大模型的一个安全问题：在不重新训练的前提下，只要压制少量被路由选中的专家(experts)，模型的拒答行为就会明显减弱。因此“应当压制哪些专家”本身就是一个安全评估问题。业界常用的判据是专家的激活频率(acti
AgentTrap: Stateful Feedback Deception against Autonomous Penetration Testing Agents
本文聚焦于自主渗透测试智能体与蜜罐防御之间的攻防博弈。这类智能体能够根据目标返回结果持续调整多步攻击计划，具备较强的自适应与多轮探测能力；而传统蜜罐主要依赖静态诱饵和预定义响应，无法随智能体策略演化而调整，容易被识破、绕过或快速放弃，难以长
Containing the Autonomous Operator: A Defense-in-Depth Framework and Reference Architecture for Securing AI Agents on Kubernetes
该论文针对大语言模型（LLM）智能体从聊天界面走向基础设施运维这一现实趋势，提出了一个在 Kubernetes 上安全承载 AI 智能体的纵深防御框架与参考架构。作者指出，当智能体能够读取遥测、调用工具、生成并执行代码、直接改变生产 K8s
Pincer: Resource Authorization for Agents using a Digital Twin
该论文关注长周期自主编码智能体（coding agent）在安全授权方面的结构性缺陷。当前主流智能体（如 Claude、Codex）具备长时程自主执行、依赖通用 shell、并维护持久化记忆以自我改进等能力，这些能力在提升生产力的同时也扩大
CITADEL: CWE-Guided Insertion of Hardware Trojans via Analysis of DFG-Enabled LLMs
该论文关注的背景是：随着硬件木马（Hardware Trojan, HT）与系统级漏洞日益复杂，现代集成电路面临的风险不断上升；但研究界若要构造贴近真实的 HT 场景，负担非常沉重——研究者必须手工分析复杂的 RTL 结构、找出可能被利用的
SideKernel: A Usable microVM Sandbox for AI Coding Agents on macOS
本文聚焦 AI 编程智能体（AI coding agents）在本地开发机上运行时的安全悖论：这类智能体在架构上属于不可信组件，却需要在其所运行的开发者机器上被赋予相当程度的自主执行权限。作者认为这一矛盾本质上是一个安全问题，而沙箱是提供隔
Mitigating Private Data Leakage in LLMs with Whiteout
该论文关注大型语言模型（LLM）训练数据中的隐私泄露问题。由于现代 LLM 的训练语料规模巨大且基本未经过滤，包含从几乎所有可访问网站抓取的内容以及大量用户输入，模型往往会记住并复现个人敏感信息（PSI），例如出生日期、电话号码和家庭住址。