Evaluating Deep-Search Agents under Hierarchical Web Evidence Poisoning
随着搜索增强型大语言模型（LLM）智能体被广泛用于消费者决策场景，其面临的生成引擎优化（GEO）投毒攻击风险日益突出。现有安全评测基准大多只关注被操纵的内容是否被检索或认可，并未跟踪智能体是否验证可疑证据、是否修正已采纳的错误观点、以及在生
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Versioned Transitive Dependency-Closure Binding and Operation-Time Effect Governance for Agent Skills: ClosureBound
该论文针对 Agent Skills 生态中依赖闭包与授权绑定问题提出 ClosureBound 参考监视器。Agent Skills 将指令、文件、包、工具、模型和服务组合成一个混合执行单元，其操作身份可能超出原始签名目录，导致传统基于根
Structurally Close, Temporally Distant: Measuring Security Exposure in Long-Horizon LLM Agents
长期运行的大语言模型（LLM）智能体在与不受信任的内容、持久化内存、外部状态和敏感工具交互时，面临严重的安全风险。现有的安全分析往往以恶意输入与下游动作之间的执行步数来衡量攻击的距离，但本文指出，对于有状态的智能体，这种时间上的距离可能高估
EvoSafeHarness: Evolving Model- and Domain-Specific Harnesses for Securing Agents
本文提出 EvoSafeHarness，一个面向 LLM Agent 的系统级安全约束（harness）自动化优化框架。研究背景是：LLM Agent 能将语言指令转化为真实世界操作，因此必须防御间接提示注入和直接有害请求；但现有安全 ha
From Review to Authorization: Key-Isolated Threshold Signing for LLM Agents
本文提出了一种名为KITA的架构，旨在解决自主LLM（大语言模型）代理在执行动作时的安全授权问题。核心风险在于：当LLM代理处理不可信内容（如网页、邮件）并同时持有可复用的签名凭证时，提示注入攻击可能跨越判断边界，直接触达执行权限。KITA
Sok: Evaluating Jailbreak Guardrails for Large Language Models.
本文是一篇针对大语言模型（LLM）越狱防护机制的系统化知识（SoK）综述。研究背景在于：尽管LLM取得了显著进展，但其部署暴露了严重的安全漏洞，尤其是越狱攻击能够绕过模型的安全对齐机制。为应对这一威胁，防护栏（guardrails）——即用
SWIFT: Super-fast and Robust Privacy-Preserving Machine Learning.
本文提出 SWIFT，一个面向安全外包计算（SOC）范式的鲁棒隐私保护机器学习（PPML）框架。在 SOC 中，计算被外包给一组功能强大的服务器，按使用付费提供服务。现有 PPML 框架通常仅提供公平性（fairness），即恶意方可以阻止
PreferCare: Preference Dataset Copyright Protection in LLM Alignment by Watermark Injection and Verification.
本文提出 PreferCare，这是首个专门针对 LLM 对齐训练中偏好数据集版权保护的水印注入与验证框架。随着 LLM 应用安全性需求日益迫切，对齐训练算法（如 RLHF/DPO 等）依赖大量高质量偏好数据来微调模型，使其行为符合人类价值
Automated Expansion of Privacy Data Taxonomy for Compliant Data Breach Notification.
该论文聚焦于隐私合规研究中一个关键难题：如何将实际数据使用场景中的具体数据项与法律法规、政策或企业内部规则所定义的隐私数据进行系统化比较。由于不同应用程序使用的数据项高度多样，且不同司法辖区对隐私数据的界定存在差异，这一比对工作非常复杂。为
A Large-Scale Measurement Study of the PROXY Protocol and its Security Implications.
该论文首次在互联网规模上对HAProxy提出的PROXY协议进行了大规模测量研究，重点考察其配置错误带来的安全影响。PROXY协议是在网络层（L4）传递客户端信息（如IP地址）的协议，旨在解决反向代理后端服务器无法获知真实客户端IP的问题，
Trust-Aware Adaptive Disclosure for Inference Privacy Preservation in Multi-Agent Networks
本文研究多智能体网络中的隐私保护共识问题。在医疗管理、智能电网等信息关键型系统中，基于智能体的系统日益普及，每个智能体可能拥有一个需要对外部观察者隐藏的潜在目标。现有共识算法通常需要智能体间交换状态信息，这可能导致恶意观察者通过推理攻击推断
CONTINUITY: Security-Context Contracts for Composable LLM Agent Controls
在LLM智能体系统中，通常集成了来源追踪、授权、策略执行、协议适配和执行控制等安全机制。然而，单独看起来正确的安全机制并不一定能在组合后形成端到端安全的系统：当动作跨越组件边界时，关键的安全上下文可能被丢弃、扩大、重新绑定，或被重新解释。本
Forgetting Without Restarting: Execution-State Unlearning for Stateful LLM Agents
本文针对长时运行的有状态 LLM 智能体（agent）提出“执行状态遗忘”（execution-state unlearning）问题。这类智能体不仅保存对话记录，还累积了压缩摘要、明文记忆、待执行的工具计划，以及每次服务 API 下的 K
Cost-Aware Hierarchical Multi-Agent Ransomware Detection and Family Attribution
针对勒索软件频繁使用加壳、混淆、进程操控和运行时逃逸等多种手段的问题，常规多模态检测方法通常对所有样本无差别地使用全部模态，导致不必要的计算开销和延迟。本文提出一种成本感知的分层多智能体系统（HMAS），用于自适应的勒索软件检测与家族归因。
Memory-Efficient Designs for Word-Wise Universal Fully Homomorphic Encryption
全同态加密（FHE）允许在加密数据上直接进行计算，从而在数据分析全过程中保护隐私。然而，FHE 的执行速度远慢于明文计算，且近年来计算加速取得进展后，性能瓶颈逐渐转向内存层级——FHE 会将数据规模放大数个数量级，导致算术强度极低。针对这一
BKPIR: Keyword PIR for Private Boolean Retrieval.
本文提出了一种名为 BKPIR 的新型关键词隐私信息检索（Keyword PIR）方案，旨在解决现有 Keyword PIR 方案难以支持布尔检索模型的问题。在实际应用场景中，用户往往需要通过逻辑组合（如 AND、OR、NOT）来精确表达查
SAGA: A Security Architecture for Governing AI Agentic Systems.
随着基于大语言模型（LLM）的AI智能体（agent）越来越多地以自主方式相互交互、协作和委派任务，传统安全边界被打破，攻击面显著扩大。行业指南（如OpenAI白皮书）强调用户必须对智能体全生命周期保持控制与监督，以避免恶意智能体造成损害。
ProtocolGuard: Detecting Protocol Non-compliance Bugs via LLM-guided Static Analysis and Dynamic Verification.
本文提出了一种名为 ProtocolGuard 的新型漏洞检测框架，用于检测网络协议实现中的协议不合规（non-compliance）缺陷。这类缺陷通常源于开发者在实现协议规范时对状态转换、字段约束或时序逻辑的错误理解，可能导致安全问题或功
Automated Attack Synthesis by Extracting Finite State Machines from Protocol Specification Documents.
该论文提出了一种从协议规范文档（RFC）中自动提取有限状态机（FSM）的数据驱动方法，并将其应用于自动化攻击发现。网络协议的安全验证通常依赖攻击者合成或基于模型的模糊测试，但这些技术需要协议的正式表示，通常为FSM。然而，许多协议仅以英文散
SENTINEL-RL: Offloading Topological Reasoning from LLM Agents in the Security Operations Center
该论文提出 SENTINEL-RL，一种用于安全运营中心（SOC）的智能体架构，旨在克服大型语言模型（LLM）智能体在自主威胁分析中的两个核心局限：有限上下文窗口难以承载大规模认证图，以及自由文本生成无法保证推荐动作与网络拓扑的一致性。SE