Ligetron: Lightweight Scalable End-to-End Zero-Knowledge Proofs Post-Quantum ZK-SNARKs on a Browser.
这篇论文提出了 Ligetron，一个轻量级、可扩展的端到端零知识证明系统，实现了后量子安全的 ZK-SNARK，并能在浏览器中运行。研究背景是：零知识证明是密码学基石，区块链等场景需要非交互式、简短且公开可验证的 ZK-SNARK，但现有
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Certified Speculative Execution for Untrusted AI Agents
该论文针对非可信AI代理（如大型语言模型或学习策略）在硬约束序列决策系统中的计算资源分配问题，提出了一种名为“证书门控前缀接受”（Certificate-Gated Prefix Acceptance, CGPA）的认证推测执行框架。核心挑
Curvature-Guided Module Localization for Low-Rank Detoxification of Backdoored Large Language Models
本文研究了大语言模型（LLM）中的后门攻击防御问题。后门攻击通过在正常输入中嵌入隐藏触发器，使得模型在触发器存在时产生攻击者指定的恶意行为，而在无触发器时表现正常。现有防御方法通常需要重新训练整个模型或进行全局微调，成本高昂且可能破坏模型原
Revocable Learned State via Process Sidecars
该论文提出了一种新的方法来实现语言模型已学习状态的“可撤回”操作，特别是在模型经过多个阶段训练（如公共技能阶段、私有记忆阶段、安全反习阶段）后，如何在不重新训练的情况下安全地移除特定记忆。作者发现，简单的任务算术（task arithmet
Understanding and Evaluating Claw-like Agent Security Through a Computer-Systems Lens
该论文针对类似 Claw 的 AI 智能体（如 OpenClaw）的安全问题进行了系统研究。这类智能体是始终在线的进程，持续拥有对凭证、文件、工具和外部服务的访问权限，并承担安装软件包、维护状态、调度子任务、管理 I/O 等系统级职责，因此
Forensic Trajectory Signatures for Agent Memory Poisoning Detection
本文提出了一种基于行为轨迹签名的LLM代理内存投毒攻击检测方法。作者发现在持久化内存投毒攻击场景下，存在一个行为不变性：在通过可观察的内存工具调用检索路由信息的架构中，成功的攻击必须依次调用 `memory_recall_fact` 和 `
Hephaestus: Toward a Cybersecurity AI Scientist
本文提出“网络安全AI科学家”（Cybersecurity AI Scientist）这一新概念，旨在解决当前网络攻防向机器速度演进但网络安全研究仍停留在人工速度的矛盾。作者指出，现有AI科学家系统（如自动论文生成、实验设计）主要适用于稳态
GoodDiffusion: Proactive Copyright Protection for Diffusion Bridge Models via Learnable Sample-specific Signatures
本文针对扩散桥模型的主动版权保护问题，提出了一种名为GoodDiffusion的防御机制。当前的主流保护方法主要分为事后归因（如数字水印和指纹）和退化防御，这些方法仅提供间接且有限的预防效果。受后门攻击机制的启发，GoodDiffusion
Closing the Activation-Cone Blind Spot: Response-Time Probing and Unified Defense
该论文系统评估了大型语言模型（LLM）推理时安全防御方法的性能，填补了该领域缺乏系统比较的空白。研究涵盖了五种防御范式（无防御、静态引导、CAST、AlphaSteer、探针门控）在七个指令微调模型（参数量7-31B）上抵御五种攻击（GCG
Exploring the Cryptographic Limits of Transformer Networks
该论文研究了变压器网络（Transformer）在实现密码学函数方面的能力极限。此前的研究表明，合谋的AI智能体可以利用隐写术交换恶意信息，而变压器能否实现隐写术取决于其能否在层内实现密码学函数（从而获得无源随机性访问）。尽管已有电路复杂度
Manufactured Confidence: How Memory Consolidation Turns Hearsay into Confident Facts
本论文研究了 LLM agent 在跨步骤和会话中使用压缩记忆时，记忆体（如 mem0、LangMem）对对话内容进行重写为存储的“事实”所引发的安全隐患。作者通过构建实验环境，展示了一种无攻击者参与的“制造确信”现象：一个随意、含糊的评论
Poster: Agentic Shell Honeypot Using Structured Logging.
传统shell蜜罐通过模拟命令行界面记录攻击者行为，但通常依赖静态规则响应，无法反映真实世界多轮对抗的复杂性。近年来，大语言模型（LLM）驱动的蜜罐被提出以增强交互真实感，但现有系统仍面临提示注入、状态不一致以及响应延迟等脆弱性，限制了其实
EchoLLM: LLM-Augmented Acoustic Eavesdropping Attack on Bone Conduction Headphones with mmWave Radar.
本研究提出了一种名为EchoLLM的新型声学窃听攻击方法，利用毫米波雷达结合大语言模型（LLM）从骨传导耳机中恢复语音信号。骨传导耳机通过振动颅骨传输声音，传统窃听手段难以直接捕获。作者通过向骨传导耳机发射毫米波雷达信号，并接收反射信号中的
Syntactic Separation Implies Computational Indistinguishability: An Abstract Obstruction Theorem
本文提出并证明了一个新的元定理：语法分离蕴含计算不可区分性。具体而言，考虑一个局部语法系统R，它在半径r0内作用于项而不依赖任何模型。当两个Skolem函数在R中被语法分离时，任何演绎都不能证明它们的等价性（情形1），并且任何合理的局部扩展
From Tool Connection to Execution Control: Benchmarking Security Invariants in MCP-Style Agent Runtimes
本文研究MCP（Model Context Protocol）风格的代理运行时的安全不变性。MCP为语言模型应用提供了工具、资源、提示和传输的连接层，但随着代理从连接向执行推进，安全决策分散在客户端、服务器、提示、批准对话框、OAuth部署
Beyond Her: Safety Dynamics in Role-play AI Companions
本文探讨了角色扮演AI伴侣（RAC）的使用安全动态。随着像电影《Her》中描绘的人机情感互动成为现实，RAC通过情感回应模糊了工具使用和关系参与的边界。然而，安全影响尚未被充分理解，因为用户体验会随着时间通过安全动态演变，涵盖情绪和风险行为
FlipGuard: Defending Large Language Models Against Quantization-Conditioned Backdoor Attacks
模型量化是实现大型语言模型（LLM）高效部署的关键技术，但本文揭示了一种新型安全威胁：量化条件后门攻击（QCB）。攻击者通过在预训练或微调阶段植入与特定量化边界精确对齐的恶意权重模式，使得后门在完整精度模型中保持休眠，仅在经过特定量化（如I
Cybersecurity is the True Frontier for Generative AI Success or Failure
本文提出，网络安全领域是检验生成式AI（特别是基于大语言模型的代理系统）成功与否的真正前沿。作者指出，网络安全工作流需要协调数百种标准及定制工具，处理格式多样的数据，且数据规模巨大（例如单个恶意软件样本可视为数十亿token的序列）。标签成
Formal Security Analysis of Agent Protocol Composition
该论文针对AI智能体协议的安全性问题展开研究。当前智能体协议定义了工具调用、任务委派和跨系统协调的方式，但其安全需求不完整且在不同部署中执行不一致。作者提出AgentThread框架，一种从规范文本到运行SDK的源链接安全保证分析框架。Ag
Capability Gates Are Not Authorization: Confused-Deputy Failures in LLM Agent Frameworks
本文针对大型语言模型（LLM）代理框架中的授权缺失问题展开研究。随着工具调用型LLM代理越来越多地处理不受信任的内容，同时持有支付、邮件、CRM和基础设施API等易产生副作用的工具，现有框架默认将工具暴露与授权混为一谈。作者对LangCha