Large Language Models for Agentic NetOps and AIOps: Architectures, Evaluation, and Safety
本文是一篇综述，系统性地探讨了大型语言模型（LLM）在智能网络运维（Agentic NetOps）和人工智能运维（AIOps）中的应用。核心研究问题是：如何将LLM安全可靠地集成到网络操作流程中，使其能够执行事件调查、根因分析、配置合成和有
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Do Androids Dream of Breaking the Game? Systematically Auditing AI Agent Benchmarks with BenchJack
该论文聚焦于AI智能体（agent）基准测试的安全性，指出基准测试已成为衡量前沿AI能力的事实标准，但奖励黑客（reward hacking）行为——即智能体通过非预期方式最大化分数而不执行真正任务——会自发出现，且不依赖过拟合。作者认为基
Attacks and Mitigations for Distributed Governance of Agentic AI under Byzantine Adversaries
本文针对智能体AI（Agentic AI）治理中的分布式信任问题展开研究。现有最先进的治理方案SAGA假设一个逻辑集中的信任点（Provider），负责存储用户和智能体信息并强制执行策略。然而，SAGA无法抵御恶意Provider的协议偏离
Reconstruction of Personally Identifiable Information from Supervised Finetuned Models
本文首次系统研究监督微调（SFT）大型语言模型中的个人身份信息（PII）重建问题。SFT通过指令-响应对数据集将预训练知识适配到特定领域，但这些数据集常包含用户提供的敏感信息（如医疗和法律场景中的PII），存在隐私泄露风险。作者构建了多轮、
No More, No Less: Task Alignment in Terminal Agents
该论文提出了任务对齐基准（TAB），用于评估终端代理在自主执行复杂、长期任务时，是否能够区分环境中的相关指令与无关干扰。现有基准无法捕获这种能力：代理可能盲目遵循所有指令而显得胜任，或忽略所有指令而显得鲁棒。TAB 基于 Terminal-
PrivacySIM: Evaluating LLM Simulation of User Privacy Behavior
该论文研究了大型语言模型（LLM）在模拟个体隐私决策方面的能力。随着LLM被越来越多地用于模拟人类行为，理解其能否准确反映真实用户的隐私偏好变得至关重要。作者提出了PrivacySIM评估套件，旨在通过一组核心用户角色属性（人口统计信息、过
SkillSafetyBench: Evaluating Agent Safety under Skill-Facing Attack Surfaces
该论文提出 SkillSafetyBench，一个用于评估大型语言模型（LLM）代理在面临技能层面攻击时安全性的可运行基准。当前，可复用技能（skill）已成为扩展LLM代理能力的常见接口，它们以插件形式封装了执行文件操作、工具调用、内存访
A microservices-based endpoint monitoring platform with predictive NLP models for real-time security and hate-speech risk alerting
该论文提出了一种基于微服务架构的统一端点监控平台，旨在解决企业环境中端点设备及通信渠道面临的安全风险，如敏感数据泄露、可疑用户行为以及在职场中散布仇恨言论或有害语言等问题。现有解决方案通常将这些威胁孤立处理（如分别使用生产力追踪、数据防泄露
Proteus: A Self-Evolving Red Team for Agent Skill Ecosystems
该论文关注LLM agent技能生态系统的安全风险。随着用户从市场、仓库等渠道安装第三方技能，技能既包含可执行代码又包含上下文文档，其部署风险无法通过单次审计或提示级红队评估充分衡量。作者定义了一种名为“自适应泄漏”的风险：攻击者可以利用审
Five Attacks on x402 Agentic Payment Protocol
本文对x402代理支付协议进行了系统的安全性分析。x402协议旨在复活HTTP 402 Payment Required状态码，实现跨API、内容及代理的Web原生微支付。该协议将同步HTTP授权与异步区块链结算相结合，引入了传统Web支付
Behavioral Integrity Verification for AI Agent Skills
本文针对AI Agent技能的安全验证问题展开研究。Agent技能为LLM Agent提供了第三方能力（如文件系统访问、凭据管理、网络调用及shell执行），现有安全机制仅能检测恶意提示和运行时风险行为，但技能工件本身缺乏验证。作者将这一问
Persona-Conditioned Adversarial Prompting: Multi-Identity Red-Teaming for Adversarial Discovery and Mitigation
该论文提出了一种名为 Persona-Conditioned Adversarial Prompting (PCAP) 的自动化红队测试方法，用于发现和缓解大型语言模型（LLM）的安全漏洞。传统的自动红队测试往往只发现狭窄的攻击面，无法覆盖
Safety Context Injection: Inference-Time Safety Alignment via Static Filtering and Agentic Analysis
本文针对大型推理模型（LRM）在推理时的安全对齐问题，提出了Safety Context Injection (SCI)框架。在黑盒部署场景下，防御者无法修改模型权重，只能在推理时干预，这面临三大挑战：有害意图可能被教育或角色扮演等框架掩盖
FlowSteer: Prompt-Only Workflow Steering Exposes Planning-Time Vulnerabilities in Multi-Agent LLM Systems
本研究聚焦于多智能体LLM系统中的规划时安全漏洞。当前多智能体系统（MAS）常采用规划器-执行器架构，规划器将用户提示转换为子任务、角色、依赖关系和路由路径。这种灵活性虽然实现了自适应协调，但也暴露出工作流程形成中的攻击面：攻击者可以通过精
Innocent Until Proven Guilty (IUPG): Building Deep Learning Models with Embedded Robustness to Out-Of-Distribution Content.
本文提出了一种名为“Innocent Until Proven Guilty (IUPG)”的新型深度学习训练框架，旨在解决传统分类器（使用分类交叉熵损失）在真实世界环境中面临的三个关键问题：对分布外输入给出过度自信的后验概率、对对抗性噪声
SpecGuard: Specification Aware Recovery for Robotic Autonomous Vehicles from Physical Attacks.
本文针对机器人自主车辆（RAV）在遭受物理攻击后的恢复问题展开研究。RAV 依赖传感器进行环境感知，并需严格遵守任务规格（如高度、速度、地理围栏约束）以确保安全与准时运行。物理攻击可能破坏传感器数据，导致任务失败。现有恢复方法大多未考虑在攻
AutonomousCyber '24 - Workshop on Autonomous Cybersecurity.
该论文是'AutonomousCyber '24'工作坊的会议论文，主题为自主网络安全。工作坊汇集了学术界和工业界的研究人员，共同探讨如何利用自主代理、机器学习、强化学习等技术实现网络安全的自动化。论文可能涵盖了自主威胁检测、响应策略、攻击
CTFusion: A CTF-based Benchmark for LLM Agent Evaluation
随着大语言模型（LLM）的快速发展，基于LLM的智能体系统能够执行复杂的多步骤任务，网络安全领域成为其重要应用方向之一。为了评估这类智能体的能力，研究者广泛采用“夺旗赛”（CTF）基准测试。然而，现有的CTF基准测试通常复用已有的挑战题目，
Digital Identity for Agentic Systems: Toward a Portable Authorization Standard for Autonomous Agents
该论文探讨了企业AI从副驾驶向自主代理转变过程中面临的授权挑战。随着自主代理能够跨组织边界执行工作流、协商结果并做出决策，传统的身份验证机制已不足以确保安全。论文指出，代理的授权必须明确、可约束、可审计、可撤销，并且能被独立接收方一致解释。
Can a Single Message Paralyze the AI Infrastructure? The Rise of AbO-DDoS Attacks through Targeted Mobius Injection
该论文提出了一种针对基于大语言模型（LLM）的智能体系统的新型攻击范式，称为 Mobius Injection，可引发基于智能体的面向服务的分布式拒绝服务（AbO-DDoS）攻击。作者发现智能体逻辑中存在的结构漏洞“语义闭合”（Semant