TrajMark: Ownership Attribution and Segment-Level Tamper Localization for Coding-Agent Trajectories
该论文关注编码智能体（coding agent）过程溯源问题。现有做法多为对智能体最终产出的补丁（patch）打水印，只能为提交的产物提供来源证据，却无法验证产生该产物的可见执行轨迹（trajectory）是否被篡改；而行为水印方法通常只给
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Beyond Training: A Feasibility Taxonomy for Inference-Time AI Governance
本文关注一个正在被政策与安全圈忽视的治理错位问题：当前主流的算力治理（compute governance）本质上是一种「训练治理」——在用的算力阈值、申报义务和前沿 AI 监管框架都挂在训练算力上，并把「训练完成的模型」当作监管单元。作者
Subgroup Membership Inference Audits of Differentially Private Synthetic Text
该论文关注差分隐私（DP）合成文本发布中的残余隐私风险审计问题。合成数据被越来越多地提议作为敏感真实数据的替代品发布，即使通过DP对最坏情况隐私泄露提供理论保证，实践中仍存在残余风险。现有的成员推断攻击（MIA）审计只测量随机抽取记录的平均
Robust Industrial Cyber Physical Classification Using Neuromorphic Temporal Embeddings and Hybrid SNN XGBoost Under Machine Unlearning Attacks
该论文关注电力配电网数字化带来的安全后果：工控与关键基础设施侧的网络暴露面扩大，而现有入侵检测系统（IDS）多依赖计算开销大的深度学习模型，难以在边缘侧部署；同时，为适应数据分布漂移而进行的周期性重训练，又使模型暴露于「机器遗忘攻击」（ma
An Efficient and Effective Agentic Group Shilling Attack on Recommender Systems
该论文聚焦推荐系统面临的一类重要安全威胁——刷榜/刷单攻击（shilling attack，即攻击者通过注入虚假用户档案来扭曲物品排名、操纵曝光度）。作者指出，现有刷榜攻击方法存在两个明显短板：一是往往需要针对特定目标物品进行微调，或依赖固
DuplexJail: Safety Alignment Breaks Under Spoken Interruption in Full-Duplex Models
该论文关注全双工语音模型（full-duplex speech models）带来的一个被忽视的攻击面：这类模型在生成回复的同时仍持续接收用户语音输入，因此攻击者可以在模型「说话」期间通过用户音频通道插入额外的语音内容，从而与当前对话轮次解
An Experimental Evaluation of Multimodal Prompt Injection Attacks on Agentic AI Frameworks
该论文研究面向智能体（Agentic）AI 框架的多模态提示注入攻击，并给出一套可复现的量化评测基准。背景是：当前智能体框架让大语言模型不仅能推理，还能制定计划、保存记忆并调用工具，进而触达真实文件系统、邮件与服务；同时多数智能体具备读图能
PrivEscalate: Measuring and Augmenting the Threat of LLM-Automated Linux Privilege Escalation
该论文关注一个被低估的攻防测量问题：随着 LLM 智能体被越来越多地用于自动化攻击链的后渗透环节，它们在复杂本地提权任务中的实际能力究竟如何，此前缺乏可执行验证下的大规模量化证据。作者指出，已有针对 Linux 提权任务的评测普遍存在样本量
ZK-Trace: Certified Collusion Tracing with Zero-Knowledge Credentials for Federated GNSS Interference Monitoring
本文提出 ZK-Trace，一种用于联邦式全球导航卫星系统（GNSS）干扰监控场景下的认证共谋追踪方案。在该场景中，一个专有的分类器模型被分发到多个“部分可信”的监测站，任何站点都可能泄露其模型副本，导致知识产权或敏感能力外泄。ZK-Tra
MemSentry: A Framework for Detecting Persistent Memory Poisoning in Agentic AI
本文针对Agentic AI系统引入的持久内存攻击面，提出了一种名为MemSentry的防御框架。Agentic AI系统通过持久记忆保存用户交互和系统状态，但攻击者可以向长期记忆中注入对抗性内容，即内存投毒（Memory Poisonin
An Evidence Model for Agentic Processes: Evidence Claims, Trust Assumptions, and Policy Assessment
本文针对代理式AI系统的可审计性与证据可信度问题展开研究。在智能体流程中，系统频繁交换消息、调用工具、请求审批、进行结构化决策会话并修改共享工件；日志与锚点虽能提供篡改证据，但其证据含义往往是隐式的——哈希不能确立语义真实性，签名不能证明授
HoneyRoute: Honeypot-Model Routing for Adversarial LLM Serving
本文提出了一种名为 HoneyRoute 的推理服务层，用于在面向对抗性的大语言模型（LLM）服务中检测恶意请求并将其路由到专用蜜罐模型，从而保护生产模型，同时持续收集攻击者交互并转化为情报。现有防御通常将陷阱嵌入模型内存或在协议层重建欺骗
Revoked but Still Authoritative: An Empirical Study of Revocation Enforcement in Agent-Memory Systems
长时运行的基于语言模型的智能体依赖于持久记忆来跨轮次保持上下文。许多智能体内存系统采用软撤销机制处理矛盾信息：当某个事实被新事实取代时，旧事实被标记为“已撤销”但仍保留在存储中，而非物理删除。然而，这种撤销标记在检索阶段是否真正被强制执行，
ACEA: An Adversarial Co-Evolution Arena for Head-to-Head Red-Team and Blue-Team LLM Testing
大型语言模型（LLM）的自动化红队攻击与蓝队防御技术正在快速发展，但现有的攻击者和防御者通常被孤立地构建和测试，导致评测分数难以反映真实对抗能力。为解决这一问题，本文提出了 ACEA（Adversarial Co-Evolution Are
LLM-Based Penetration Testing in the Presence of Honeypots
该论文研究了大语言模型（LLM）智能体在自动化渗透测试中面对蜜罐（honeypots）时的预算分配问题。传统蜜罐依赖真实性与隐蔽性来诱捕人类或脚本攻击者，从而暴露其战术、技术与程序（TTPs）；然而，LLM驱动的攻击者能够对异构工件进行推理
ResidualAuth: What Authorization State Must Language Agents Preserve under Revocable Delegation?
工具调用型语言代理在与外部服务交互时，常需要动态委派和撤销权限。以往的安全机制往往只关注当前权限集合或可达性关系，但本文揭示了仅依赖这些快照信息可能不足。作者通过构造示例证明：两个历史可能具有完全相同的当前权限和全对可达性，但在同一直接边撤
VEX-Bench: Benchmarking LLM Agents for Assessing Exploitability of Software Supply Chain Vulnerabilities
软件供应链已成为日益暴露的攻击面，原因是其依赖关系复杂而脆弱。现有的防御工具（如 GitHub Dependabot）常常产生大量误报，因为它们的粗粒度匹配无法确定易受攻击的依赖项是否真正可利用。安全分析师通常需要花费大量时间逐案评估漏洞可
Nothing Breaks: No Single Peer Can Soundly Gate Post-Quantum Delivery
该论文研究后量子（post-quantum）安全在端到端交付中的根本性缺陷：后量子保护是服务器与客户端之间的一种关系属性，而非单一文件或配置可声明的静态属性。作者指出，没有任何单一对端（peer）能够可靠地验证这种关系是否成立。首先，现有的
SoK: Secure Software-Based Multi-Domain Data Segregation
本文是面向系统安全的系统化知识综述（Systematization of Knowledge, SoK），聚焦软件化多域数据隔离（Multi-Domain Data Segregation, MDDS）在任务关键型语音通信系统（VCS）中的
Your Agent Says Yes: Interpreting Adversarial Market Behavior Beyond Individual Transactions
本文研究了一个关键的安全解释缺口：传统金融安全控制通常以单笔交易为粒度进行审批，但真实的市场操纵行为可能分散在多个消息、智能体、资产和时间周期中，单笔交易的合法/非法判定无法覆盖这种跨维度的复杂行为。作者在一个由十个角色化语言模型智能体构成