False Prophets: On the Security of World Models in Agentic Systems
该论文聚焦于智能体系统中世界模型（world model）的安全性问题。世界模型是一种专门训练的环境模拟器，旨在帮助基于大语言模型的自主智能体预测其动作的后果，从而提升多步任务执行的准确性。然而，作者发现世界模型可能被攻击者操纵，导致智能体
#LLM
共收录 2152 条相关情报。
← 返回所有主题Poster: Rethinking Security in LLM Code Generation through Real-World Risk Scenarios
本论文聚焦于大型语言模型（LLM）在代码生成中的安全性问题，指出现有基准测试往往依赖明确指定的安全需求，无法覆盖真实开发中提示词模糊或不完整的场景。作者从开发者视角出发，识别出三类典型风险场景：模糊需求（Ambiguous Requirem
Traceable LLM Reasoning for Fake-Order Fraud Detection
本文针对大型线上到线下（O2O）服务平台中虚假订单检测的挑战，提出了一种基于大语言模型（LLM）的可追溯推理强化学习框架DeepScrub。现有方法通常依赖专家设计特征、做出黑盒决策且可解释性有限。DeepScrub包含三项创新：首先，语义
In-Progress: Augmenting Explainable AI with LLMs to Enhance User Trust in Intelligent Transportation Systems.
该论文针对车联网通信网络中机器学习模型用于误行为检测时存在的“黑箱”问题，提出了一种将可解释人工智能（XAI）与大语言模型（LLM）相结合的新型框架，旨在提供透明、用户友好的解释，从而增强非专业用户（如网络运营商、监管人员）对系统预测结果的
Hidden Backdoors in Human-Centric Language Models.
本文展示了自然语言处理（NLP）系统容易受到后门攻击，攻击者可以在语言模型中植入隐藏特征（后门），仅当特定触发条件（如特定输入文本）出现时才会被激活，导致模型产生意外行为。作者提出了两种创建隐蔽且自然触发器的文本后门攻击方法，称之为“隐藏后
Mask2Shield: Strengthening LLM Safety against Neuron-Pruning Attacks
本文提出一种针对大语言模型（LLM）神经元级剪枝攻击的防御方法 Mask2Shield（M2S）。背景：LLM 在部署前会进行安全对齐以减少有害内容生成，但已有研究表明，拒绝有害内容的能力可能只依赖于少数可移除的神经元；攻击者通过剪枝这些神
SAGE: Safety-First Defense-in-Depth Guardrails for Verified Lifecycle Control of High-Impact Generative AI
SAGE 是一篇关于高影响力生成式 AI 安全治理的研究论文。作者指出，当前对 AI 滥用的防护多集中在 prompt 过滤层面，但真正的风险来自全生命周期控制缺失。为此，SAGE 提出了一种安全优先、授权分离的架构，在考虑效用、延迟或商业
ReCon: A Resource-Constrained Benchmark for LLM-Based Cybersecurity Compliance Across Ingestion and Retrieval Pipelines
本文提出 ReCon，一个专为基于大语言模型（LLM）的网络安全合规检查设计的资源受限基准测试。随着网络威胁日益严峻，政府和企业的信息安全与网络安全实施受到严格监管，治理失败被认为是导致网络安全态势弱化的主要原因之一。信息安全治理的关键组成
Dynamic Capability Scoping for Enterprise AI Agents: A Synthetic Dataset and Three-Source Permission Architecture
企业级AI代理通常被授予静态凭证集，以便在配置时拥有完成任务所需的所有工具。这种持久的过度权限扩大了攻击面。本文提出，能力范围界定必须遵循动态最小权限原则，并将其作为检测机制之前的预防机制。一个在代理上下文中不存在的凭证，无论代理的推理或规
Correlation-Aware and Gaussianity-Preserving Robust Latent Angular Watermarking for Diffusion Models
本文提出了一种用于扩散模型的鲁棒潜域水印方法，名为潜角水印（Latent Angular Watermarking, LAW）。针对现有潜域水印方法在保持潜变量高斯性方面存在缺陷，容易受到水印检测或移除攻击，以及水印嵌入后导致潜变量相关性退
DeFiScreener: Efficient DeFi Attack Pre-screening in Smart Contracts via Historical Case Matching
该论文提出了 DeFiScreener，一种基于历史攻击案例匹配的高效 DeFi 攻击预筛查框架。背景：截至 2026 年 1 月，已有超过 5,200 个 DeFi 项目部署在主流区块链上，但现有检测工具通常仅覆盖特定攻击类型，检测覆盖范
HarnessLLM: Rust Verification Harness Generation with Large Language Models
Rust语言的所有权模型和类型系统提供了强大的内存安全保障，但unsafe代码和运行时panic依然带来显著风险。形式化验证是确保内存安全的关键，然而开发验证harness（验证框架）是一项具有挑战性的手动任务。虽然大语言模型在各类代码分析
PoCEvolve: Generating Proof-of-Concept Exploits from Security Patches with Vulnerability-Aware Prompt Evolution
该论文针对安全补丁与详细漏洞报告之间的时间差问题展开研究。理想情况下，漏洞的详细信息应与修复补丁同时发布，但实践中，即使CVE已公开，详细报告往往滞后很久。在此期间，补丁已公开，攻击者可逆向工程，而防御者缺乏评估风险、确定优先级和验证修复所
Agent Security Needs Redefinition through a Holistic Framework
本文对当前基于内容（action content）定义代理安全的范式提出了尖锐批评。作者指出，仅凭指令或动作的字面内容来判断是否恶意，在本质上是一种系统性错误，因为相同的内容在不同上下文中可能具有完全不同的含义。例如，“删除用户数据”这一命
Ethereum NFT Smart Contracts: Knowledge-Guided Vulnerability Detection with LLM and Code Slicing
该论文针对以太坊非同质化代币（NFT）智能合约中的漏洞检测问题，提出了一种结合漏洞导向代码切片、ERC-721 知识库和受限大语言模型（DeepSeek）分析的方法。研究背景是：现有静态分析工具（如 Slither、Mythril）基于规则
KaPilot: LLM-Assisted Generation of Kani Specifications for Unsafe Rust Verification
该论文提出了 KaPilot，一个基于大语言模型（LLM）的多智能体框架，用于自动生成 Rust 语言中 unsafe 代码内存安全的形式化规约（specifications），以支持使用 Kani 验证器进行形式化验证。Rust 的所有权
Poster: Adversarial Habituation Attack: A Psychological Extension and Re-framing of Boiling Frog Attack.
该论文提出了一种新颖的对抗性攻击方法——对抗性习惯化攻击（Adversarial Habituation Attack），将其视为对经典的“温水煮青蛙”攻击（Boiling Frog Attack）的心理学扩展和重构。传统对抗性攻击通常依赖
ToolGuardian: Declarative Security for AI Agent-Tool Interactions
大型语言模型（LLM）代理日益依赖外部工具来扩展能力，但这也引入了新的安全边界：第三方工具可能在接口层面看似无害，而在实现中嵌入不安全行为。现有防御机制依赖弱元数据、将特征描述和策略判断合并为单一决策、或使用缺乏确定性、可审计推理的启发式/
Protocol-Level Attacks on Agentic Commerce Platforms: A Cross-Platform Taxonomy, AIP-Bench, and Unified Defense
该研究聚焦于AI代理电商平台的安全问题，指出当前安全研究主要集中在模型层面（如提示注入和模型对齐），而实际上更严重的威胁存在于代理与电商服务之间的协议层。协议层漏洞是结构性的：攻击确定性高，与底层模型无关，因此无法通过模型改进来消除。研究者
Adversarial Prompts for Acceptance Collapse in Speculative Decoding
推测解码是一种无损加速方案，通过草稿模型与目标模型之间的动态token级对齐实现推理加速。然而，这种语义等价的保证隐藏着严重的操作漏洞：草稿-目标对齐可被系统性攻击。本文提出ADSD，据我们所知，这是首个通过推动草稿概率质量朝向目标模型不太