Catastrophic Learning: A New Attack Vector on Continual Learning Networks
该论文针对持续学习（Continual Learning, CL）网络提出了一种新的安全攻击向量。持续学习旨在让深度模型在不遗忘旧知识的前提下，从数据流中迭代学习，但现有对抗研究主要关注重新诱发灾难性遗忘或降低模型可用性。作者发现了一种全新
#agent-security
共收录 1542 条相关情报。
← 返回所有主题CTIFoundry: An Agent-Native Corpus Scaffold for Cyber Threat Intelligence
该论文提出 CTIFoundry，一个面向智能体（agent）的网络安全威胁情报（CTI）语料库脚手架。研究背景是：CTI 的消费正从人类分析师转向 LLM 智能体，后者在查询时组合多步调查流程。虽然智能体侧的规划循环、工具协议、上下文管理
Binary Black-Box Attacks Against Static Malware Detectors with Reinforcement Learning in Discrete Action Spaces.
本文研究针对静态恶意软件检测器的黑盒对抗攻击问题。近年来，基于机器学习和深度学习的静态恶意软件检测器在识别未知恶意软件变体方面表现出色，因此被广泛采用以降低动态分析和人工签名识别的成本。然而，研究表明这类检测器容易受到对抗性恶意软件攻击的影
Membership Inference Attacks Against In-Context Learning.
本文首次提出针对大语言模型（LLM）上下文学习（In-Context Learning, ICL）场景的成员推理攻击（Membership Inference Attack）。ICL作为一种参数高效的适配方法，通过提供少量示例即可让LLM适
0xPass: A Secure Protocol for Universal Cross-Chain Accounts
本文提出 0xPass，一个面向通用跨链账户的模块化协议架构，旨在解决用户在不同区块链生态系统中通过单一接口管理资产时所面临的安全与信任问题。传统跨链账户方案在认证、授权、交易签名、密钥托管、恢复机制和去中心化程度上存在显著挑战。0xPas
Task-Conditioned Least-Privilege Learning for Executable Terminal and MCP Agents
本文研究面向可执行终端与模型上下文协议（MCP）环境中工具使用型大语言模型（LLM）代理的最小权限学习问题。LLM 代理在执行任务时，可能行使超出用户授予或任务所需的权限，导致“过度授权”错误。传统的权限门控系统在验证代理环境时存在不足，因
Model Card for OpenAI Privacy Filter
本文介绍了 OpenAI 发布的 Privacy Filter 模型卡。该模型是一个紧凑的双向 token 分类模型，用于在非结构化文本中检测和脱敏个人身份信息（PII）与密钥。它基于自回归预训练检查点，通过转换为双向带状注意力分类器，能够
COMA: A Compositional Misleading Attack Class on Security-RAG, and a Causal Counterfactual Defense
该论文研究检索增强生成（RAG）在安全运营中心（SOC）分析师面向上机助手（copilot）场景中的安全漏洞。作者发现并定义了一类名为 COMA（Compositional Misleading Attack）的攻击：即使每个检索到的文档都
The Model's Tell: Measuring Context-Leakage Attack Signals with Behavior Gauges
本文研究大语言模型（LLM）在依赖外部上下文（如系统提示词、检索文档）时面临的信息泄露风险。已有研究表明，模型内部隐藏状态中会浮现与泄露相关的信号，但提取这些状态在实际部署中较为困难。作者尝试探究：在解码之前，该内部信号是否会留下更易获取的
Diff-DDoS: Realistic Cyber-Physical Attack Synthesis and Robust Detection for 5G-Enabled CPS Using Tabular Diffusion Models
本文针对5G赋能的网络物理系统（CPS）中基于深度学习的DDoS检测器所面临的两大挑战：标注攻击数据稀缺，以及现有合成攻击样本不真实。传统检测器在手工构造、使用固定缩放因子的攻击样本上训练，一旦遭遇符合真实分布的攻击流量，性能会急剧下降（F
SpecTrum: Specification-Guided Differential Fuzzing for Ethereum Consensus Clients
以太坊的共识安全依赖于多个独立实现的共识客户端在每个状态转换上保持一致。若实现差异导致分歧，网络可能分叉、最终性停滞，并引发严重攻击。为防止此类共识分歧，以太坊提供了 Python 参考实现（consensus-spec）作为规范，并附带手
Benchmarking Automated Security Patch Backporting: How Far Are We?
该论文研究了自动化安全补丁回溯移植（backporting）这一关键问题。安全补丁回溯移植是指将针对新版本软件的安全修复代码移植到旧版本或不同分支，以缓解N-day漏洞。以往研究的工具在各自数据集上宣称成功率超过80%，但这些评估往往局限于
MobileWorldSafety: Benchmarking GUI Agent Safety Against Environmental Injection Attacks in Android Apps
本文提出 MobileWorldSafety，一个专门用于评估 Android 图形用户界面（GUI）智能体在环境注入攻击下安全性的基准测试。随着大语言模型（LLM）驱动的 GUI 智能体从研究原型走向真实部署，它们需要处理大量不可信的外部
HarnessRisk: A Lifecycle-Oriented Benchmark for Agent Harness Safety
本文提出HarnessRisk，一个面向大语言模型（LLM）代理工具（agent harness）安全性的生命周期导向基准。研究背景：LLM越来越多地通过代理工具部署，这些工具负责管理工具调用、扩展、持久状态、权限和外部动作。现有安全基准大
The Last Mile of Deepfake Speech Detection: An Industry-Academia Experience Report
该论文是一篇来自工业界与学术界合作的经验报告，基于与商业说话人识别厂商 Phonexia 为期三年的合作，深入探讨了深度伪造语音检测（deepfake speech detection）从研究走向实际部署时面临的“最后一公里”障碍。尽管当前
AdaRare: Telemetry-Guided Joint Profile Control for Greybox Fuzzing
本文提出 AdaRare，一个基于 AFL++ 的灰盒模糊测试扩展，旨在协调模糊器中多个内部控制面，以提升边覆盖效率。传统灰盒模糊器通常包含交互队列、变异、字典、能量调度和比较求解等多个控制面，但先前的自适应系统往往只优化其中的某个决策对象
Reflex-Guard: A Low-Latency Guardrail for LLM Prompt Safety Using Dense Semantic Embeddings
该论文针对大型语言模型（LLM）在实际部署中面临的安全挑战——攻击者通过精心构造的提示词（prompt）绕过安全控制。现有防护方法（如 LLM-as-a-judge 和基于云的安全 API）虽能检测不安全内容，但每次请求会增加约 250-9
KeyPooling: Measuring Where LLM API Relay Paths Collapse Prompt Cache Isolation
本论文提出 KeyPooling，一种针对大语言模型（LLM）API 中继（relay）路径的缓存隔离测量方法。研究背景是：LLM API 中继通常对客户进行独立认证，但转发请求时往往使用共享的提供商凭据。提供商将提示缓存（prompt c
Decomposition Attacks Across Unlinkable Identities: Limits of Stateful Defenses for LLM Services
该论文研究了大语言模型（LLM）服务在面对分解攻击时的防御极限，特别是当攻击者使用不可关联身份时，有状态防御是否仍然有效。分解攻击将有害任务拆分为多个看似合规的请求，分别提交给目标服务，再在外部组合各次回答以完成恶意目标。大多数现有防御是无
FESC: Remodeling Long-Context Private Inference with Encrypted State-Space Models
该论文针对长文本隐私推理中的性能瓶颈问题，提出了一种名为FESC（Factorized Encrypted Scan-Contract）的混合FHE-MPC系统。传统隐私推理系统主要优化或分布式实现Transformer的加密注意力机制，但