Sovereign by necessity? Frontier AI export controls, cyber security, and the limits of national AI capability
本文由 Alan Woodward 与 Andrew Rogoyski 撰写，发表于 arXiv cs.AI 分类，聚焦前沿人工智能（Frontier AI）出口管制与网络安全之间的交叉问题。研究背景是：极少数位于两个国家（美国与中国）的企
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Operationalizing Cyber Threat Intelligence with GraphRAG
本文针对安全运营中一个长期存在的痛点：当安全研究员发布网络攻击报告后，检测工程师需要将其转化为可用的检测规则。然而，现有自动化方法大多只能从报告中提取最浅层的威胁指标（如恶意IP、域名、文件哈希）并生成封禁列表，这种策略极易被攻击者通过更换
InterSAGE: The Secure and Verifiable Interoperability Protocol for An Internet of Agents
本文提出 InterSAGE，一个面向“智能体互联网”（Internet of Agents）的安全与可验证互操作协议套件。随着大语言模型（LLM）驱动的智能体能够跨组织边界发现对等体、调用工具并委派任务，现有协议（如 MCP、A2A、AN
ATOBench: Tracing How Autonomous Penetration-Testing Agents Verify Vulnerabilities When Target Evidence Lies
本文提出 ATOBench，一个面向自主渗透测试代理的评估框架，核心目标是让代理在面对欺骗性目标响应时的验证过程变得可观测。研究背景是：自主渗透测试代理依赖目标系统的响应来指导后续动作和生成最终报告，如果目标响应被欺骗（例如植入错误证据），
Beyond Handcrafted Security: Towards Self-Evolving Defense for LLM Agents
随着大语言模型（LLM）代理的操作能力不断扩展，其引入的安全威胁也日益复杂。运行时防御通过在代理执行循环中集成安全机制，已成为缓解这些风险的有效方法。然而，现有的运行时防御严重依赖人工设计的干预措施，缺乏构建和维护这些防御的原则性框架。本文
Beyond Visual Evidence: Revealing and Mitigating Relational Privacy Leakage in Document MLLMs
本文关注多模态大语言模型（MLLM）在文档理解场景下的隐私泄露问题，尤其是面向身份证件等身份文档处理的领域专用MLLM。作者指出，现有研究多聚焦于通用MLLM的隐私风险，而领域专用模型在关键信息提取（KIE）任务中的独特脆弱性尚未被充分探索
Adversarial Robustness in Smishing Detection: A Comparative Analysis of Adversarial Fragility in Classical vs. Transformer-Based Detection Systems
本文针对短信钓鱼（smishing）检测系统的对抗鲁棒性进行了系统比较研究。当前多数检测模型在干净、单语文本上训练与评估，但在低资源场景下，攻击者常通过字符混淆、跨语言代码切换和结构扰动等方式规避检测。研究选取了五种模型架构：三种经典词法模
Labels Are Not Endpoints: Treatment Leakage and Construct Validity in MCP Agent Security Evaluation
本文针对工具使用型智能体（MCP Agent）安全评估中的方法论缺陷展开审计研究。作者指出，当前许多安全评估将存储的标签（如 ATTACK_SUCCESS）直接等同于真实行为事实，忽略了标签生成过程中的偏差。研究团队对一个已保存的评估活动进
Discovering Persistent Behavioural Patterns for Interpretable Blockchain Forensics
该论文提出一种可扩展、与应用场景无关的区块链取证分析框架，用于从大规模链上活动中发现“持久行为模式”。研究背景在于，公开区块链数据虽支持大规模 DeFi 分析，但现有方法往往针对特定应用、难以扩展或难以解释。该框架首先构造融合合约、代币和市
RealmEye: Virtual Machine Introspection for Arm CCA Realm VMs
本文提出 RealmEye，这是首个面向 Arm 机密计算架构（Arm CCA）Realm 虚拟机的虚拟机自省（VMI）系统。在机密虚拟机（CVM）成为金融、隐私保护 AI 推理等敏感云工作负载主流基座的背景下，硬件隔离虽然能防御恶意云平台
PIPES: Securing Agent Perception with Provenance and Priors
本文研究了工具型智能体（tool-using agents）在消费外部数据时面临的安全问题。这类智能体会从不同可信级别的来源获取数据，但工具响应通常不标明每个响应单元的来源或预期语义，导致智能体可能被攻击者控制的内容污染。作者将这种攻击定义
SpotProxy: Rediscovering the Cloud for Censorship Circumvention.
本文提出并评估了 SpotProxy，一种利用现代云基础设施来规避网络审查的新型系统。研究背景是：现有审查规避系统（如 VPN、Tor）常依赖特定的中继服务器或公共代理，其 IP 地址和流量特征容易被深度包检测（DPI）或 IP 封锁等手段
Correct Is Not Governed: Provenance Integrity in Agentic Workflows
该论文针对智能体工作流（agentic workflows）评估标准过于单一的问题展开研究。传统上，系统是否成功仅取决于是否达到正确结果，但在机构化场景中，这一标准远远不够：一个动作即使结果正确，也可能依赖于错误的权威来源、包含未经证实的完
Tracing Provenance and Detecting Tampering with Complementary LLM Watermarks
本文针对大语言模型（LLM）生成文本的溯源与篡改检测问题，提出了一种新型互补水印方法。现有水印技术通常对文本编辑具有鲁棒性，能够保持溯源属性，但这种鲁棒性也带来安全漏洞：攻击者可以在保留水印归属的同时对关键内容进行篡改，即所谓的“piggy
Convergent Detour Hijacking: Task-Preserving Resource Amplification in Skill-Based LLM Agents
该论文提出了一种针对基于技能（skill-based）的大型语言模型（LLM）智能体的新型攻击方法——收敛性绕行劫持（Convergent Detour Hijacking, CDH）。在LLM智能体生态中，第三方技能通过自然语言描述供模型
Non-Degenerate Risk Certification for Automated Security Decisions: A Decision-Contract Theory with ATT\&CK-Aligned Triage as a Worked Instance
该论文针对自动化安全决策中的风险评估提出了一种理论框架，指出无条件风险界限存在结构性问题：一个从不采取行动的“选择器”可以平凡地使风险趋于零，因此任何看似可靠的风险证书实际上可能掩盖了底层分类器的错误。作者建立了“决策契约理论”（Decis
Machine Learning-Based Cyber Defense for Cloud Infrastructure: An Adaptive Deep Q-Network Architecture for Intelligent Intrusion Detection and Automated Threat Mitigation
本文提出了一种基于强化学习的自适应云安全防御框架，旨在应对云环境中日益复杂的网络攻击。该框架采用深度Q网络（DQN）作为核心算法，通过训练智能体学习动态防御策略，实现实时入侵检测与自动威胁缓解。研究使用了CICIDS2017数据集进行模型训
The energetic cost of mitigating AI attacks in cellular networks
本论文研究了在蜂窝网络中应用人工智能（AI）和机器学习（ML）技术时所引入的安全漏洞及其缓解策略带来的能量开销问题。随着AI/ML算法被广泛部署于蜂窝网络的各个层面，例如O-RAN架构中的无线智能控制器（RIC），网络得以实现无线资源分配优
ToolHazard: Scaling Adversarial Environments for Security Evaluation and Alignment of LLM-based Agents
本文提出 ToolHazard，一个可扩展的对抗性环境合成框架，用于评估和提升基于大型语言模型（LLM）的智能体在集成外部工具时的安全性。核心研究问题是：LLM 智能体在感知环境状态时，容易受到嵌入其中的间接提示注入攻击，但现有研究多依赖手
Towards Model-based Run-time Cybersecurity: On Control-Flow Anomaly Detection, Attack Identification, and Hardware Monitoring
该论文针对网络攻击下系统韧性提升问题，提出一种基于模型的运行时网络安全方法，重点研究控制流异常检测、攻击识别与硬件监控的协同架构。作者指出，传统的控制流监控通过观察程序执行路径确保系统完整性并检测运行时异常，但单纯依赖软件层监控存在被“伪装