Johnny Still Receives Spam SMS: Assessing the Robustness of SMS Spam Detection
本文系统评估了实际部署中短信垃圾信息检测系统在对抗攻击下的鲁棒性。作者指出，现有检测系统在受控环境中准确率很高，但在面对真实世界复杂多变的垃圾短信与对抗性扰动时，性能显著下降。研究涵盖了三类被终端用户实际依赖的检测系统：商业即时通讯应用、第
#agent-security
共收录 1542 条相关情报。
← 返回所有主题CRSF: Collusion-Resilient Privacy-Preserving Sensor Fusion with Byzantine-Robust Participation
本文针对隐私保护传感器融合系统中的安全弱点提出了一种新的协议 CRSF。在典型的传感器-服务器-客户端架构中，不受信任的服务器需要在不学习单个输入或最终输出的情况下，对分布式传感器的测量值进行聚合计算。已有基于混淆电路（garbled ci
HiveTraceGuard-Pro: A Compact Generative Guardrail for Prompt Injection, Jailbreaks, and Adversarial Obfuscation
本文提出并评估了 HiveTraceGuard-Pro——一个面向生产环境大语言模型（LLM）的轻量级生成式护栏模型，用于检测提示注入、越狱（jailbreak）以及对抗性混淆内容。作者指出，现有公开研究大多集中于英语场景，对俄语提示注入和
AKRASIA: Stealthy Backdoor Attack on Reasoning-based Code LLMs
AKRASIA 是一种针对基于推理的代码大语言模型（Code LLM）的隐蔽后门攻击方法，由研究团队提出并评估。与现有攻击不同，AKRASIA 在推理阶段（inference-time）注入后门，通过探测目标 LLM 以构造代码级触发器，并
Skill-as-API: Confidential Multi-Agent Coordination for Agentic Software Engineering
本文提出了一种名为 Skill-as-API 的保密多智能体协调协议，用于解决 AI 编码智能体在协作过程中泄露专业技能知识产权的问题。当前 AI 编码助手正从独立工具演变为协作队友，它们可以发现并调用彼此的专业技能。然而，现有的协调通道本
Membership Inference in Fine-tuned Diffusion Language Models via Token-level Memorization Asymmetry
该论文关注扩散语言模型（DLMs）的隐私风险，这类模型作为自回归语言模型的替代方案，具备并行生成与双向上下文建模等优势，但其成员推理攻击等隐私问题尚未被充分研究。作者首先通过扩散训练动力学的理论分析，识别出一种称为“token级记忆不对称性
RISA: Response Inspection and Selective Actions for Refusal Calibration in Large Language Models
该论文提出 RISA（Response Inspection and Selective Actions），一种面向大型语言模型（LLM）的推理时拒绝行为校准框架。研究背景是：LLM 需要可靠地区分有害提示与良性提示，错误的拒绝行为要么导致
Backdoor Attacks Against Dataset Distillation.
该论文首次系统性地研究了数据集蒸馏（Dataset Distillation）技术面临的后门攻击风险。数据集蒸馏旨在将大规模训练数据压缩成小规模合成数据集，使模型在合成数据上训练后仍能达到与原始数据训练相近的性能，从而提升数据效率。然而，现
Entangled Watermarks as a Defense against Model Extraction.
本文针对机器学习模型被窃取（model extraction）的知识产权保护问题，提出了一种名为 Entangled Watermarking Embeddings (EWE) 的模型水印方法。传统模型水印通过让模型在训练时过拟合到一些远离
Toss a Fault to BpfChecker: Revealing Implementation Flaws for eBPF runtimes with Differential Fuzzing.
eBPF 是一项可在特权上下文中运行沙箱程序的革命性技术，广泛应用于 Linux 内核网络监控、Windows 拒绝服务防护以及区块链智能合约执行等场景。然而，eBPF 实现中的缺陷可能造成广泛而严重的影响。以往研究主要关注 eBPF 运行
Towards Automatic and Precise Heap Layout Manipulation for General-Purpose Programs.
该论文研究自动堆利用生成中的一个核心挑战：如何判断并构建可利用的堆布局状态。在通用程序中，堆内存的布局通常由程序的堆操作（如分配、释放、修改）动态决定，而攻击者或自动化工具需要精心编排这些操作，使得堆对象重新排列，从而为后续的漏洞利用创造条
SoK: Motion Data Privacy in Extended Reality
本文是一篇关于扩展现实（XR）中运动数据隐私的系统化知识综述（SoK）。XR 设备（如 VR/AR 头显）依赖对用户身体动作的持续追踪来实现沉浸式交互，例如抓取、注视或移动虚拟物体。然而，运动追踪数据记录了个体独特的运动模式，现有研究表明这
NeuroGraph: An AI Graph-Driven Neuro-Symbolic Framework for Explainable Threat Reasoning in Advanced Manufacturing
本文针对先进制造业中日益复杂的网络物理攻击面与威胁情报分析难题，提出了一种基于图谱的神经符号推理框架 NeuroGraph。尽管大语言模型（LLM）与检索增强生成（RAG）已显著改善威胁情报工作流，但仍存在幻觉问题，并且难以对相互关联的威胁
Same Request, Different Boundary: Evaluating Cybersecurity Assistance across Conversational Contexts
本文针对大型语言模型（LLM）在网络安全领域的安全辅助边界问题展开研究。LLM 能够解决复杂问题，但在高风险领域的滥用可能造成严重后果，因此模型提供商通常会对潜在有害请求加以限制。然而，一刀切地拒绝所有网络安全请求会损害合法防御者的利益，因
Does Reasoning Mitigate Backdoor Attacks? A Neuro-Symbolic Perspective
该论文从神经符号（Neuro-Symbolic, NeSy）视角出发，首次系统评估了后门攻击对NeSy模型的影响。NeSy AI旨在将亚符号神经感知与基于符号的推理相结合，以提高AI系统的透明性、可解释性和效率，通常被认为是“设计上安全”的
Capability-Gated Language Models: Security Composes, Utility Does Not
该论文针对大语言模型（LLM）部署中的安全访问控制问题，提出了一种称为“能力门控”（capability-gated）的部署范式。传统安全机制（如安全微调、过滤、遗忘）往往在模型权重外部按主体（principal）进行区分，例如通过配置不同
Context Inference Attacks Without Jailbreaks
本文研究 Agentic AI 系统在推理时处理敏感数据（如医疗记录、金融文档）时面临的隐私泄露问题。与以往主要关注通过越狱攻击直接诱导模型泄露敏感内容的研究不同，本文首次系统化地研究了 Agent 自身的工具调用所组装出的隐藏上下文（hi
NeuroPriv: Adversarial Representation Learning for Privacy in Wearable EEG Systems
本文针对可穿戴 EEG（脑电图）系统在健康监测之外可能泄露神经隐私的问题展开研究。作者指出，尽管许多系统假设仅传输紧凑的频谱或空间特征而非原始 EEG 数据即可提供足够的隐私保护，但实际这些特征仍可能泄露用户身份和人口统计属性。以 EEGM
Delegation Without Trust: An Empirical Gap Analysis of Identity, Authorization, and Runtime Governance in Multi-Agent LLM Systems
本文针对多智能体大语言模型（LLM）系统中的授权与运行时治理问题展开研究。作者指出，自主 LLM 智能体日益代表用户持有凭证、调用工具与服务，并能派生子智能体进一步行动，这使得分布式系统中经典的“谁被授权做什么、依据谁的授权”问题变得紧迫且
DUPIN: Attack Learning Is Still Needed! Demonstrating Few-Shot after Unsupervised Pretraining Is A Nimble Forensics Learner
本文提出一种名为 DUPIN 的新型学习型攻击取证方法。其核心思路是：先在海量的审计事件（以溯源图形式表示）上进行无监督预训练，使模型学习正常系统行为和通用结构模式；随后进入小样本学习阶段，仅利用少量带标注的攻击样例即可完成微调，从而获得针