Sustained Participation as a Security Resource: The Bounded Participation Channel
该论文针对抗女巫(Sybil)防御的一个结构性盲点提出新思路。现有大多数防御机制把成本设置在"创建身份"这一环节(如工作量证明、押金、实名验证),而一旦攻击者通过准入,就可以几乎零边际成本地长期维持大量身份,防御方缺少持续性的代价施加手段。
#llm-agent-security
共收录 9 条相关情报。
← 返回所有主题SPA: Securing Persistent LLM Agents Across Queries with Plan-First Information-Flow Control
本文针对大型语言模型（LLM）智能体在跨查询持久化场景下的安全威胁，提出了一种名为 SPA 的“计划优先”架构。研究背景是：现有防御通常只保护规划阶段或单个工具交互，但持久化智能体面临更广泛的攻击面——攻击者控制的数据可能改变控制流、进入安
TraceGrant: A Contract-Governed Security Framework for the Task-Effect Lifecycle of Networked LLM Agents
本文提出 TraceGrant，一个面向网络化大语言模型（LLM）智能体的合同化安全治理框架。网络化 LLM 智能体从电子邮件、云存储、日历、交易平台和 Web 服务检索信息以完成多步骤任务，这些任务会产生持久的外部效应。合法执行所需的内容
ClawSentry: A Progressive Multi-Tier Security Monitor for Safeguarding Autonomous LLM Agents
本文提出 ClawSentry，一个面向自主 LLM 智能体的渐进式多层安全监控网关。研究背景是：当 LLM 智能体从简单对话扩展到执行代码、读取本地文件、编排外部工具时，单个被恶意第三方技能劫持的智能体可能导致数据泄露、权限提升或级联破坏
DP-MemView: A Memory Interface for Attribute-Level Transcript Privacy in Long-Term LLM Agents
本文针对长期记忆型大语言模型（LLM）代理中的隐私泄露问题展开研究。作者指出，虽然用户从未明确陈述受保护属性（如健康状况、政治倾向等），但代理在多次交互中基于长期记忆生成的条件响应，可能累积性地泄露这些属性。作者将该威胁形式化为“自适应转录
SkillVetBench: LLM-as-Judge for Multi-Dimensional Security Risk Evaluation in Open-Source LLM Agent Skills
随着开源LLM（大语言模型）智能体生态系统的迅速发展，社区贡献的“技能”（即模块化工具定义，用于扩展智能体能力）的安全性普遍缺乏审查。现有安全扫描器仅在代码层运行，对于指令层和多智能体层面的风险——例如通过自然语言指令劫持智能体、通过编码侧
AgentSecBench: Measuring Prompt Injection, Privacy Leakage, and Tool-Use Integrity in LLM Agents
该论文提出了 AgentSecBench，一个用于系统性评估大型语言模型（LLM）代理安全性的实证基准框架。LLM 代理在处理可信指令、检索记录和工具观测时，所有信息均通过同一个生成通道，导致数据流与权限混淆：即使应用策略未授权，不受信任的
VIPER-MCP: Detecting and Exploiting Taint-Style Vulnerabilities in Model Context Protocol Servers
本文提出了VIPER-MCP，这是首个针对MCP（模型上下文协议）服务器的端到端自动化漏洞审计框架。MCP已成为连接LLM代理与外部工具的标准接口，由于MCP服务器暴露特权操作（如shell执行、网络访问、文件系统操作），其工具处理程序中的
ClawGuard: Out-of-Band Detection of LLM Agent Workflow Hijacking via EM Side Channel
本文针对自主LLM智能体面临的工作流劫持安全风险提出了一种新颖的被动式、带外检测方法。工作流劫持指攻击者在不被发现的情况下微妙地修改智能体调用的工具和技能，而现有防御依赖主机内部遥测（如审计日志），一旦主机操作系统被攻破，这些日志可以被伪造