Context-to-Execution Integrity for LLM Agents
本文针对大语言模型代理（LLM agents）在执行任务时面临的完整性风险，提出了一种名为上下文到执行完整性（Context-to-Execution Integrity, CXI）的执行边界系统。LLM agents通常读取攻击者可写入的
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Beyond the Syntax: Do Security Experts Trust LLMs for NIDS Rule Engineering?
该论文聚焦于网络入侵检测系统（NIDS）规则工程中的自动化挑战。随着网络威胁不断演化，手工编写NIDS规则已成为运维瓶颈。大型语言模型（LLM）虽展现出自动化规则生成的潜力，但其能否产出生产级规则尚未被验证。论文采用以人为中心的视角，首先形
i-EXAM: Instructable and Explainable Attack Connectivity Graph Modeler
i-EXAM 是一个基于规划（AI planning）的辅助工具，旨在帮助系统管理员为复杂网络创建安全配置文件并执行假设分析（what-if analysis），以识别网络加固策略。该工具利用规划编译技术，提供可靠性和完备性保证，能够自动识
Security and Privacy in Agentic AI: Grand Challenges and Future Directions
本文基于一项前瞻性扫描研究，汇集了来自学术界、工业界和政府的30位国际顶尖专家，通过聚焦讨论和协作练习，系统性地识别并阐述了智能体人工智能（Agentic AI）在安全与隐私方面面临的重大挑战和未来研究方向。研究指出，随着AI系统自主性的不
When Agents Remember Too Much: Memory Poisoning Attacks on Large Language Model Agents
本文提出了一种针对大型语言模型（LLM）驱动的个人AI代理的新型攻击向量——GhostWriter，该攻击利用代理的记忆子系统进行投毒。当前的长时记忆代理主要分为对话型和动作规划型两类，而个人助理代理恰好处于两者的交汇点，在处理敏感信息的同
aiAuthZ: Off-Host, Identity-Bound Authorization for AI Agents
本文针对AI Agent在工具调用过程中因依赖不可信文本而面临的安全性问题展开研究。AI Agent通常基于LLM的输出发起工具调用，但攻击者可通过控制上下文（如提示注入）伪装成合法用户执行非授权操作。作者首先评估了15个当代语言模型在8种
PiSAs: Benchmarking Contextual Integrity in Multi-User Agentic Systems
该论文提出了 PiSAs（Privacy in Shared Agentic Systems）基准，用于评估多用户共享智能体系统中的隐私泄露风险。随着大语言模型（LLM）智能体从单用户助手发展为共享组织基础设施，新的隐私风险随之出现：不适当
Untrusted Content Masking for Web Agents with Security Guarantees
本文针对Web代理面临的提示注入攻击问题，提出了一种名为“不可信内容遮蔽”（Untrusted Content Masking, UCM）的防御方法。在基于文本的工具调用API等环境中，可信指令与不可信数据天然分离，代理可以基于接口定义进行
When Claws Remember but Do Not Tell: Stealthy Memory Injection in Persistent Personal Agents
本文研究了一种针对持久化个人代理（persistent personal agents）的新型安全威胁——隐蔽内存注入（stealthy memory injection）。持久化个人代理结合了长期记忆与用户外部环境访问能力，可提供个性化前
Privilege and confidentiality in generative AI workflows
本文聚焦于生成式人工智能工作流中的特权与保密性问题。作者指出，生成式AI系统通过三种不同方式存储和处理客户数据：训练与记忆中的模型参数、实时会话中的上下文窗口以及用于检索增强生成（RAG）的知识数据库。每种模式都会对保密性和法律职业特权产生
Agent Data Injection Attacks are Realistic Threats to AI Agents
本文提出了一种针对AI智能体的新型攻击类别——Agent数据注入攻击（ADI）。与传统的间接提示注入（IPI）主要关注指令注入不同，ADI攻击者将恶意数据伪装成可信数据，例如安全关键的元数据（资源标识符、数据来源等）或智能体上下文数据（工具
Your Agent's Memories Are Not Its Own: Forged Reasoning Attacks on LLM Agent Memory and Defenses
本文提出了一种针对大型语言模型（LLM）智能体持久记忆的新型攻击方法——伪造放大推理记忆攻击（FARMA）。传统的记忆中毒攻击主要污染事实性知识，而FARMA则针对智能体的推理历史进行注入。攻击者通过插入含有规避性语言的伪造推理痕迹，绕过基
TACTIC-KG: Toward Small Agent Teams for Cyber Threat Intelligence Knowledge Graph Construction
网络威胁情报（CTI）报告通常是非结构化、异构且包含噪声的，这限制了它们在自动化分析与推理中的直接可用性。网络安全知识图谱（CSKG）能够以结构化形式表示攻击实体、行动和关系，但从自由文本CTI中构建此类图谱仍然是一个挑战。现有方法通常依赖
Layer-Parallel Inference Reduces Encrypted Nonlinear Depth in Transformers
本文研究全同态加密（FHE）下Transformer推理的效率问题。FHE允许对加密数据进行计算，但现有加密Transformer推理受限于大量非线性块（如softmax、RMSNorm）的串行组合，导致巨大的计算开销和噪声积累。作者提出结
F-ACVAE: A Federated Adaptive Conditional Variational Auto-Encoder for Privacy-Preserving Intrusion Detection in IoT Networks
本文提出了一种名为F-ACVAE（联邦自适应条件变分自编码器）的框架，旨在解决物联网（IoT）网络中的隐私保护入侵检测问题。随着IoT设备激增，网络攻击面扩大，但传统的集中式入侵检测系统（IDS）面临高维流量数据、极端类别不平衡以及异构边缘
Governed Caste Reassignment in Heterogeneous Swarms: An Asymmetric-Trust Protocol with Audited Operator Countersignature
该论文针对异构机器人集群中的“种姓重新分配”（caste reassignment）问题，提出了一种非对称信任协议。在机器人集群中，机器人会因电池、载荷或优先级变化而频繁调整其角色（即种姓），但现有方法仅将其视为内部调度算法，缺乏外部权威机
Governed Individuation: Cryptographically Decoupling an Agent's Learning from Its Authority
本文提出了一种名为“受控个体化”（Governed Individuation）的架构，旨在解决自主代理在部署后学习过程中可能超出其操作者授权范围的安全问题。传统对齐技术仅能在概率上保证代理行为符合预期，而本文通过密码学方法将代理的学习过程
Evaluating calibrated refusal and safe usefulness in dual-use biology settings
该论文针对AI智能体在生命科学工作流中可能带来的双重用途风险，提出了一个用于评估模型安全拒绝行为的基准测试——BioSecBench-Refusal。基准包含61个日常任务（来自已发表文献的合法分析）和46个红队任务（虚构但模拟真实研究场景
DualView: Preventing Indirect Prompt Injection in Personal AI Agents
本研究针对个人AI代理（如OpenClaw）面临的间接提示注入（IPI）攻击，特别是存储型IPI攻击，提出了一种名为DualView的新型防御机制。现有基于双LLM的防御（如Dual LLM）仅在代理的上下文中追踪不可信数据，将其替换为符号
AutoCedar: An Agentic Framework for Verifier-Guided Access Control Policy Synthesis
该论文提出了AutoCedar，一个基于智能体（agent）的框架，旨在解决从自然语言需求自动生成访问控制策略时存在的安全隐患。传统上，大语言模型将自然语言需求转化为代码，但在访问控制中，生成的策略可能编译通过且看起来正确，却授予了未经批准