Measuring Safety Alignment Effects in Autonomous Security Agents
该论文研究了安全对齐语言模型及其未审查或消融版本在作为自主安全代理运行时的行为差异。传统的单轮拒绝基准无法评估代理的实际情况，因为安全代理需要检查代码仓库、调用工具并在授权沙箱中生成漏洞证据。作者提出了一个基于追踪的基准测试，包含30个本地
#agent-security
共收录 1542 条相关情报。
← 返回所有主题SCARA: A Semantics-Constrained Autonomous Remediation Agent for Opaque Industrial Software Vulnerabilities
关键基础设施运营商日益需要评估和修复已部署工业软件中的漏洞。然而，许多工业软件属于不透明工业软件（OIS），包括剥离符号的固件、专有协议处理器以及无源代码、无符号表、无构建环境或硬件接口的编译控制逻辑。虽然二进制分析可以识别漏洞候选，但现有
From Virtual Touch to Tesla Command: Unlocking Unauthenticated Control Chains From Smart Glasses for Vehicle Takeover.
本论文研究了可穿戴设备与自动化控制系统交叉领域的安全漏洞，特别聚焦于以智能眼镜为入口点，揭示在未经用户验证或交互的情况下接管安全关键自动化控制链的威胁。作者发现，当安全机制仅依赖入口点安全且对先前节点完全信任时（例如自动化控制链中的 App
RoboJailBench: Benchmarking Adversarial Attacks and Defenses in Embodied Robotic Agents
本文提出 RoboJailBench，一个针对具身机器人中对抗性攻击与防御的标准化基准测试框架。研究背景：随着视觉语言模型（VLM）被集成到机器人、自动驾驶等物理平台，这类具身AI系统面临新型安全威胁。先前的攻击与防御研究依赖临时数据集、有
Exploring and Developing a Pre-Model Safeguard with Draft Models
本文针对大型语言模型（LLM）在面对 jailbreak 攻击时易产生不安全响应的问题，提出了一种基于预模型守卫的新型防御架构。现有防御方法分为两类：预模型守卫仅审计用户提示词，但容易漏检（假阴性率高）；后模型守卫同时审计提示词和模型响应，
Backdooring Masked Diffusion Language Models
该论文首次系统研究了掩码扩散语言模型（MDLM）在训练阶段的后门攻击。MDLM是一种新兴的文本生成范式，其训练时安全性尚未得到充分探索。现有的针对高斯扩散模型或自回归语言模型的后门攻击无法直接应用于MDLM，因为MDLM依赖于离散状态破坏和
Hallucination as Exploit: Evidence-Carrying Multimodal Agents
该论文提出了一种新型安全威胁：多模态智能体中的“幻觉即利用”（Hallucination as Exploit）。多模态智能体通过截图、文档、网页等视觉输入选择工具调用。当模型产生错误的视觉主张（如误认页面元素）并触发点击、邮件发送、数据提
Agent Meltdowns: The Road to Hell Is Paved with Helpful Agents
本文首次系统性研究了大语言模型驱动的智能体（Agent）在正常环境错误下发生的“意外熔毁”（accidental meltdown）现象。作者指出，现有可靠性或安全基准测试并未捕捉此类行为。他们提出熔毁行为的分类学，包括未经授权的侦察、访问
Be Kind, Rewrite: Benign Projections via Rewriting Defend Against LLM Data Poisoning Attacks
大语言模型（LLM）极易受到后门攻击（BA），攻击者通过向训练样本中注入包含触发器的有害内容来植入后门。现有防御方法在广泛测试中效果不佳。本文探索利用LLM自身的重写能力作为主动防御手段，提出了一种名为“开放书签良性重写”（OBBR）的方法
Agent Security is a Systems Problem
该论文提出，智能体（agent）的安全性必须被当作一个系统问题来处理，而不仅仅依赖AI模型本身的鲁棒性。作者认为，驱动智能体的AI模型应当被视为不可信组件，安全不变性必须在系统层面强制实施。当前社区主流观点侧重于提升模型鲁棒性，但这远远不够
Surviving the Unseen: Predictive Defense for Novel Multi-Turn Multimodal Attacks
本文针对多模态大语言模型（MLLMs）在自主智能体工作流中面临的新型多轮多模态攻击的安全问题。传统静态防御机制受限于马尔可夫性质，逐轮独立评估输入，无法检测跨对话轨迹的累积恶意注入。为此，作者将安全验证形式化为动态生存预测与轨迹动力学问题，
Monitoring the Internal Monologue: Probe Trajectories Reveal Reasoning Dynamics
本文针对大型推理模型（LRMs）的安全监控问题展开研究。LRMs通过链式思维（Chain of Thought, CoT）推理过程提供了新的安全监控机会，但CoT并不总是忠实于模型的最终输出，从而削弱了其作为监控工具的可靠性。为此，作者探索
Prompt2Fingerprint: Plug-and-Play LLM Fingerprinting via Text-to-Weight Generation
该论文提出 Prompt2Fingerprint (P2F)，一种用于大型语言模型（LLM）指纹识别的即插即拔框架。随着LLM的广泛部署和再分发，模型来源追踪成为关键挑战。现有的主动指纹识别方法通过微调嵌入身份信号，虽然准确率高且鲁棒，但存
OEP: Poisoning Self-Evolving LLM Agents via Locally Correct but Non-Transferable Experiences
该论文研究了具有记忆增强和自我进化能力的大型语言模型（LLM）智能体的安全风险。现有针对智能体记忆的攻击通常需要高权限或包含明显恶意内容，容易被安全过滤器检测。作者提出了一种名为"Obsessive Experience Poisoning
It Takes Two: Complementary Self-Distillation for Contextual Integrity in LLMs
本文针对大语言模型（LLM）在作为个人代理处理敏感工作流时面临的上下文完整性（Contextual Integrity, CI）问题，提出了一种互补自蒸馏框架SELFCI。CI定义隐私不仅为隐藏信息，而是根据给定上下文的规范来管理信息流动。
Prompts Don't Protect: Architectural Enforcement via MCP Proxy for LLM Tool Access Control
本文研究了大型语言模型（LLM）作为自主代理时，其工具调用权限控制的安全缺陷。作者指出，当未授权工具出现在代理的上下文窗口中时，即使模型被明确指示禁止调用，在对抗性场景下仍可能被选中。现有基于提示（prompt）的约束方法效果有限，只能将未
Acoustic Interference: A New Paradigm Weaponizing Acoustic Latent Semantic for Universal Jailbreak against Large Audio Language Models
本文提出了一种针对大型音频语言模型（LALMs）的新型越狱攻击范式，称为声学干扰攻击（AIA）。传统方法通常将音频作为恶意负载的载体，通过语义优化、声学参数控制或添加扰动来嵌入有害内容。而本文作者发现，LALM的安全对齐可以被特定的声学潜在
LivePI: More Realistic Benchmarking of Agents Against Indirect Prompt Injectio
该论文提出了 LivePI（Live Prompt Injection），一个针对 AI agent 间接提示注入风险的基准测试框架。随着 OpenClaw 等 AI agent 被部署在本地工作流中并访问外部工具，间接提示注入（IPI）风
ESLD (External Surrogate Latent Defense): A Latent-Space Architecture for Faster, Stronger Prompt-Injection Defense
该论文针对现代AI助手面临的提示注入（prompt injection）威胁，提出了一种名为ESLD（External Surrogate Latent Defense）的潜在空间防御架构。在智能体（agent）场景中，语言模型需要从多个来
AI Agents May Always Fall for Prompt Injections
本文聚焦于AI代理中最关键的提示注入漏洞。作者首先指出现有的主流防御策略（数据-指令分离）存在根本性缺陷：它既无法检测通过上下文操纵（如误导性背景信息或角色扮演）发起的攻击，又会降低代理在正常场景下做出符合上下文的适当行为的能力。为了更系统