Mako: A Self-Evolving Agentic Operating System (SE-AOS) for Autonomous Web Exploitation
本文提出并实现了 Mako，一个自演化代理操作系统（SE-AOS）的实例，专为自主 Web 漏洞利用而设计。该系统将利用能力视为一个可变的、版本化的内核，在运行时通过观察自身失败、合成新能力、在实时目标上验证并热加载改进来扩展自身。Mako
#agent-security
共收录 1542 条相关情报。
← 返回所有主题SingGuard-NSFA: Extensible Guardrails for Agentic AI via Generative Reasoning and Real-Time Classification
本文介绍了SingGuard-NSFA，一个面向Agentic AI系统的安全护栏框架，旨在防御提示注入、敏感信息提取、恶意代码请求、危险工具滥用和资源耗尽等操作威胁。首先，作者提出了NSFA分类法，将185种风险变体组织成基于CIA三元组
MusicMark: A Robust Generative Watermarking Framework for Music Generation
随着AI音乐生成技术的快速发展及其在商业平台上的广泛应用，对生成音乐进行可靠溯源和归属认证的需求日益迫切。然而，现有的音频水印研究主要针对语音，而音乐具有复杂的结构和丰富的声学纹理，直接应用语音水印方法面临巨大挑战。大多数现有方法都是事后式
Improving the Robustness of Transformer-based Large Language Models with Dynamic Attention.
本文针对基于Transformer的大型语言模型（如BERT、GPT）在自然语言处理中的鲁棒性问题，提出了一种名为“动态注意力”（Dynamic Attention）的新型防御方法。现有研究表明，这些模型容易受到文本对抗攻击的威胁，攻击者通
The Entanglement Wall: Activation-Space Probes as Risk Detectors, Not Context Adjudicators
该论文探讨了在大型语言模型（LLM）的安全对齐中，上下文是否会改变请求的有害性，而不改变其主题或表面形式。研究者提出了一个核心问题：残差流探针（residual-stream probes）能否在一个有用的操作点上区分有害请求与表面匹配的良
Can Watermarking Techniques Help Prevent LLM Model Stealing?
本文探讨了水印技术是否能够有效防御针对大型语言模型（LLM）的模型窃取攻击。近年来，模型窃取攻击（如Carlini等人提出的方法）能够从黑盒商业语言模型中提取精确信息，包括模型架构和隐藏层维度，威胁模型所有者的知识产权。作者受到数字水印技术
Distributed Denial of Science: How Indirect Data Poisoning of AI Systems Can Industrialize Scientific Fraud
本论文探讨了一种新型的科学欺诈攻击方式——间接数据投毒（Indirect Data Poisoning）。随着人工智能在科学研究中的广泛应用，自主研究代理（autonomous research agents）能够自动检索和处理公开数据集。
Effective Synthetic Image Detection via Noise Residual Clustering
本文针对生成式人工智能（AI）生成的合成图像日益逼真、可能被用于虚假信息传播和欺诈等安全威胁的问题，提出了一种无需训练（training-free）的合成图像检测方法。现有检测器大多依赖大规模标注数据进行监督训练，成本高且对未知生成模型泛化
Defending Language Models Against Image-Based Prompt Attacks via User-Provided Specifications.
本文聚焦于多模态大语言模型（MLLM）面临的基于图像的提示注入攻击防御问题。随着聊天机器人系统广泛支持图像与文本混合输入，攻击者可通过恶意构造的图像绕过文本层面的安全机制，而现有防御手段仅针对文本数据，对此类攻击几乎无效。为此，作者提出了一
Cross-Layer Misalignment Detection in Agent Skills: A Progressive Loading-Aware Contrastive Learning Approach
本文针对大型语言模型（LLM）代理在通过“代理技能”（Agent Skills）扩展功能时出现的跨层不对齐问题展开研究。代理技能是一种可复用组件，包含自然语言元数据、过程指令和执行时资源。随着开源技能市场的扩大，用户和代理主要依赖简短的元数
NetInjectBench: Benchmarking Indirect Prompt Injection in Tool-Using Large Language Model Agents for Network Operations
本文研究了在大型语言模型（LLM）代理用于网络运维（例如处理工单、告警、日志、运行手册和ChatOps消息）时面临的间接提示注入攻击问题。这类攻击可能使代理执行非预期的工具调用，导致安全风险。为此，作者提出了NetInjectBench基准
Temporary Authority, Permanent Effects: Commit-Time Authorization for LLM Agents
该论文由Igor Santos-Grueiro撰写，研究了LLM agent在执行过程中由于使用早期有效权限证据（如DOM快照、批准epoch、版本见证、分支令牌或工作器结果）而导致持久效果（durable effects）的安全问题。作者
Devil in the Lens: Analyzing and Defending Physical Prompt Injection Against Vision-Language Models on Wearable Devices
该论文首次系统性地研究了针对可穿戴设备（如智能眼镜）上视觉-语言模型（VLM）的物理提示注入攻击。作者指出，随着VLM被部署在人脸朝向的可穿戴设备上，物理环境中的恶意文本（如广告牌、海报上的敌意文字）可以作为间接提示注入的视觉通道，劫持VL
When Are Sparse Feature Interventions Actually Localized? Matched Evaluation for SAE-Based Safety Control
该论文研究了稀疏自编码器（SAE）特征是否能在运行时安全干预中作为局部化控制句柄。核心问题在于，表面上的成功可能源于弱干预、不匹配的基线、模型鲁棒性或自动安全评判员误判（将退化输出标记为不安全，而非真正有害的合规）。作者提出了一种匹配相干门
VEXAIoT: Autonomous IoT Vulnerability EXploitation using AI Agents
该论文提出了一种名为 VEXAIoT 的自主多智能体框架，用于物联网环境中的漏洞发现与利用。IoT 系统因硬件受限、固件过时及默认配置不安全而固有脆弱，亟需可扩展的自适应安全测试方法。尽管最近的大语言模型（LLM）智能体在渗透测试和CTF挑
Leveraging Interpretable Tsetlin Machine for PDF Malware Detection
本文针对PDF文件被广泛用于传播恶意软件的安全问题，提出了一种基于可解释Tsetlin Machine（TM）的恶意PDF检测框架。该框架通过静态分析从PDF文件中提取关键特征，无需执行文件即可进行检测，并利用TM的规则学习机制对良性与恶意
SherAgent: Scaling Attack Investigation in the Wild via LLM-Empowered Iterative Query-Filter Backtracking
该论文提出了一种基于LLM的自动化攻击调查系统SherAgent，旨在解决实际企业安全运营中心（SOC）中基于溯源图的攻击调查面临的依赖爆炸和因果链碎片化问题。通过与服务数亿用户的互联网公司SOC合作，作者分析了现有LLM驱动的调查工作流（
Baffle: Hiding Backdoors in Offline Reinforcement Learning Datasets.
该论文关注离线强化学习（Offline RL）系统中的后门攻击安全威胁。离线RL通过使用预先收集的数据集训练智能体，避免了在线交互的高成本，在机器人控制、自动驾驶等关键任务中展现了有效性。然而，现有研究较少关注离线RL系统的安全性。本文提出
SLBench: Evaluating How LLM Agents Follow Logical Relations in Skills
本研究聚焦于LLM代理（如代码助手）在执行技能文件时的安全性问题。技能文件封装了可复用的程序、工具和领域特定工作流，但其中存在复杂的逻辑关系（如前置条件、约束、回退行为），若代理未能正确遵循这些关系，可能导致危险操作。作者首先提出了Skil
Secret Scanner Agent: Extracting Secrets and Access Context from Unstructured Documents
该论文提出了一个名为 Secret Scanner Agent (SSA) 的多智能体大语言模型系统，旨在从非结构化的暴露文档（如电子邮件、聊天记录、工单、事件笔记）中提取泄漏的凭据及其关联的访问上下文（即“门”）。传统的秘密扫描器依赖正则