DenialRAG: Single-Document RAG Poisoning via Embedded Parametric Denial
本文研究检索增强生成（RAG）系统面临的数据投毒威胁。作者指出，已有单文档投毒攻击通常避免在恶意文档中显式提及正确回答，而是采用间接方式误导。DenialRAG 则采用相反策略：在投毒文档中直接写明正确回答，然后明确否定该回答，并附加一个看
#agent-security
共收录 1542 条相关情报。
← 返回所有主题No Single Neuron of Failure: Distributed Safety Alignment Against White-Box Attacks
该论文针对开放权重大模型面临的白盒神经元级安全攻击问题，提出了一种分布式安全对齐（Distributed Safety Alignment, DSA）方法。研究背景是：随着开放权重模型快速发布，安全威胁已从黑盒越狱转向神经元级白盒攻击——攻
Moving the Safety Barrier: Dynamic Routing Adaptive Alignment Against White-Box Attacks
本文针对大型基础模型（LFMs）在开放环境中部署时面临的新型安全威胁——白盒攻击。与传统的黑盒越狱不同，白盒攻击能够直接定位并破坏模型内部的安全神经元或安全路由，而现有防御方法通常依赖静态安全单元或固定的拒绝路径，在路由级别的白盒攻击下显得
Why Formal Monitors Fail: Attack Distribution Entropy as a Coverage Bound for LTL-Based LLM Agent Safety
本文研究基于线性时序逻辑（LTL）和有限状态自动机（FSA）的运行时安全监控器在防御大语言模型（LLM）智能体工具调用序列时的失效原因。实际部署中，同一监控器在不同模型架构上对攻击的覆盖率差异巨大：在部分架构上可达 68-75%，而在另一些
The Boy Who Cried Wolf: Adversarial Misclassification of Safe Inputs as Unsafe in Multimodal Guardrails
该论文首次系统性地研究了多模态安全护栏模型（multimodal guard models）中的一种新型对抗威胁——“不安全诱导攻击”（Unsafe Induction Attacks）。与以往关注越狱攻击（产生假阴性，即放行恶意内容）不同
Permission Denied: Policy-Graded Evaluation of Coding Agents in Hardened Environments
本文研究编码代理（coding agents）在受企业安全策略约束环境下的性能表现。现实场景中，编码代理通常运行在具有受限凭据、限制出站流量、只读文件系统和非 root 执行等安全控制的组织中，但现有基准测试（如 Terminal-Benc
Latency-Optimal Adaptive Split Inference for Privacy-Preserving Cloud-Edge-End Collaboration
物联网（IoT）终端设备越来越多地被期望支持隐私敏感的批量推理任务，但其有限的计算资源常常使得在本地完整执行卷积神经网络（CNN）变得不切实际。本文提出了一种面向隐私保护的云-边-端协作的延迟最优自适应分割推理框架。在该框架中，终端设备作为
Decoy Images Amplify Caption-Mediated Defenses Against Encoded Jailbreaks
该论文报告了视觉语言模型（VLM）中图像输入与现有黑盒防御之间的一种反直觉交互。研究者发现，将一个编码的越狱提示与一张无关的诱饵图像配对，可以显著降低攻击成功率（ASR）。例如，在纯文本编码输入上几乎不改变ASR的字幕中介防御（ECSO），
CallScreenBench: Benchmarking On-Device Models as Phone Secretaries
该论文提出 CallScreenBench，一个用于评估端侧（On-Device）语言模型充当“电话秘书”能力的基准测试。研究背景是：随着可量化到数比特的小型语言模型在手机上运行，由其代表用户自动处理来电成为可能。与大多数基准测试中的智能体
Inverting the Hidden: Unveiling Multimodal Privacy Leakage in Collaborative LVLM Inference
本文研究协作推理场景下大型视觉-语言模型（LVLM）的隐私泄露问题。协作推理通常将模型计算划分为边缘设备和云端两部分，边缘端保留原始输入，云端处理中间层隐藏状态，这种做法被认为可以保护隐私。然而，作者指出传输中间隐藏状态实际上暴露了严重的攻
Registry Descriptions Go Stale Unevenly: An 89-Day Measurement of Model Context Protocol Drift, and Why Drift-Ranked Re-Auditing Under-Covers It
本文针对Model Context Protocol (MCP) 注册表描述的安全审计时效性问题展开研究。现有MCP安全研究通常基于单一时点的静态审计，未考虑注册表描述随时间变化的情况，导致审计结论可能迅速过时。作者通过88.6天对官方MC
Automatically Detecting Online Deceptive Patterns.
本文针对数字界面中日益泛滥的欺骗性模式（deceptive patterns）提出了一种自动化检测框架 AutoBot。欺骗性模式利用用户的认知偏差和心理弱点，诱导其做出非本意的决策，常见于各类数字平台，对用户权益构成威胁。现有缓解措施主要
ACE: A Security Architecture for LLM-Integrated App Systems.
本文研究 LLM 集成应用系统（LLM-integrated app systems）的安全性问题。这类系统通过第三方应用扩展大语言模型（LLM）的功能，系统 LLM 采用交错规划和执行的方式调用第三方应用来回答用户查询。然而，这种架构引入
Les Dissonances: Cross-Tool Harvesting and Polluting in Pool-of-Tools Empowered LLM Agents.
本文首次对大语言模型（LLM）智能体在多工具集成场景下的任务控制流安全性进行了系统分析。LLM 智能体利用一组工具进行推理和规划，但多工具集成带来了工具管理、兼容性、依赖关系和控制流保护等安全挑战。作者提出了一种新型威胁——跨工具收割与污染
RT-TEE: Real-time System Availability for Cyber-physical Systems using ARM TrustZone.
RT-TEE 提出了一种面向实时信息物理系统 (CPS) 的实时可信执行环境 (TEE) 设计与实现。传统 TEE（如 ARM TrustZone）在移动平台上主要关注机密性和完整性，但安全关键的 CPS（如自动驾驶汽车、无人机）还需要强实
What Syntax Cannot See: The Dynamic Syntactic Invariance Principle and Several Instances of the Same Hidden Assumption, and a Contradiction
本论文提出了一种统一的跨领域研究方法：寻找既有结论中未被察觉的隐含假设，将其显式化为一个可变参数，然后证明当该假设被移除后，结论会发生什么变化。作者将此方法的形式化核心称为“动态句法不变性原理”（Dynamic Syntactic Inva
Neuro-Symbolic Participation Governance for Verifiable AI Agents in Open Digital Twin Ecosystems
本文提出了一种面向开放数字孪生生态系统中可验证AI代理的神经符号化参与治理框架。研究背景是：随着大语言模型赋能的自主AI代理日益成为高价值决策支持系统的重要组成部分，在多机构、去中心化环境下，现有代理系统缺乏对身份、能力和策略合规性的强健验
Multi-LLM Consensus Framework for Evaluating Banking-Sector NIDS Dataset Coverage of MITRE ATT&CK Techniques
该论文针对全球银行网络面临的高级持续性威胁(APT)问题，指出现有网络入侵检测系统(NIDS)在标准基准上表现良好，但在真实银行运营环境中往往失效，主要原因在于通用数据集缺乏金融行业特有的攻击模式，例如与SWIFT和ATM相关的入侵行为。为
Single Canonical Prompts Underestimate LLM Safety's Surface-Form Sensitivity
本文研究大语言模型安全评估中的一个核心方法论问题：基准测试通常以单一规范表面形式（canonical surface form）读取每个测试项目，但这是否能真实反映模型行为？作者提出，当保持项目意图不变、仅改变其保持语义的表面形式时，规范形
Assuming You Knew: Fixing an Epistemic Semantics for Flow Policies Using Agentic AI
该论文针对程序信息流策略的语义形式化问题进行修正与验证。许多高级安全需求涉及程序中允许的信息流动，但由于存在选择性降级（selective downgrading）而难以精确表达。认识逻辑（epistemic logic）中的概念被视为一种