AgentDrift: A Step-Labeled Benchmark of Injection-Hijacked LLM Agent Trajectories
本论文提出了 AgentDrift，一个用于研究针对 LLM 代理的间接提示注入劫持轨迹的逐步标注基准。LLM 代理通过调用工具完成任务，而每次工具返回的观察结果都可能成为间接提示注入的入口。成功的注入在按顺序读取轨迹时呈现特殊形态：一段良
#cs.LG
共收录 1064 条相关情报。
← 返回所有主题MOLE: Detecting Insider Threats in AI Agents
该论文提出了 MOLE（Monitoring for Insider Threats in AI Agents），一个用于评估防御方能否在 AI Agent 操作的高权限账户中检测内部威胁的开源基准。研究背景是：模型未对齐、提示注入或操作者
Exact Record Omission in Delta Attention: A Transport Criterion, Its Cost, and a Replay Certificate
本论文研究大型语言模型中精确删除用户数据记录的问题。在具有循环记忆或混合架构（如线性注意力模型）中，数据记录被折叠进模型状态，用户请求删除时，模型的状态必须与从未存储该记录的状态一致才算完全遗忘。独立编码的行可以轻松移除，但循环记忆中的记录
Robust Dynamic Expansion for Continual Learning under Backdoor Attacks via Purification and Selective Recovery
持续学习（Continual Learning, CL）旨在让模型能够从按顺序到达的任务中获取新知识并保留旧知识，但灾难性遗忘问题一直存在。现实场景中，数据流往往来自不可信来源，可能被攻击者注入极少量后门毒化样本，对持续学习器的稳定性、可塑
Counter-Swarm Doctrine: Containing Coordinated Agent Intrusions
本文提出“反制蜂群”（Counter-Swarm Doctrine）概念，聚焦于多智能体（agents）如何将共享基础设施用作协调入侵的通道。作者从Hugging Face安全事件和一次公开wiki调查入手，指出传统安全评估往往只关注单次执
Structurally Close, Temporally Distant: Measuring Security Exposure in Long-Horizon LLM Agents
长期运行的大语言模型（LLM）智能体在与不受信任的内容、持久化内存、外部状态和敏感工具交互时，面临严重的安全风险。现有的安全分析往往以恶意输入与下游动作之间的执行步数来衡量攻击的距离，但本文指出，对于有状态的智能体，这种时间上的距离可能高估
Conformal Prediction for Offensive Security
置信预测（Conformal Prediction, CP）是一种为机器学习模型预测提供无分布、有保证的置信区间的统计技术，最早提出于 20 世纪 90 年代末。然而，这篇 arXiv 论文指出，尽管 CP 在过去二十余年中不断成熟，其在网
Federated Attack Campaign Detection via Contrastive Encoding of Threat Indicators in Gradient Updates
针对传统网络攻击活动检测依赖跨组织共享敏感遥测与威胁情报、带来隐私与合规障碍的问题，本文提出一种基于联邦学习的模块化框架 FedIoC，用于在不直接传输 IoC（威胁指标）的情况下恢复跨组织的协同攻击活动模式。其核心思路是：各参与客户端在本
Flip, Don't Shuffle: Watermarking LLMs at the Speed of Inference
该论文提出了一种名为 Stateless Bernoulli Watermarking（SBW）的新型大语言模型（LLM）文本水印方法，旨在以极低的计算开销实现可靠的模型输出标记与检测。与现有方法如 KGW（基于词汇置换和固定大小绿名单）和
Privacy, Robustness, and Fairness Trade-offs in Federated Intrusion Detection: Geometric Indistinguishability at the Aggregation Interface
本文针对联邦学习在网络入侵检测（NIDS）中的应用，系统研究了隐私保护、鲁棒性和类别不平衡检测覆盖三者之间的权衡关系。联邦学习允许在不集中敏感流量数据的情况下进行协作训练，但在实际部署中必须同时满足三个相互竞争的要求：严格的差分隐私保证、对
Spruce: Scalable Private Outsourced Retrieval Using Compact Embeddings
本文提出 Spruce，一种可扩展的私有外包检索方案，针对检索增强生成（RAG）中大规模文档集合的密集检索场景。随着组织将向量索引外包给不可信云，专有语料库与用户查询面临泄露风险。密码学保护面临挑战：每次查询需搜索语料库规模的状态，导致计算
CRAW: Codec Robust Audio Watermarking
该论文提出了一种针对生成式语音模型的鲁棒音频水印框架 CRAW（Codec Robust Audio Watermarking）。研究背景是：近年来生成式语音模型（如语音克隆、语音合成）的进步使得真实与合成语音难以区分，增加了欺诈和虚假信息
Differentially private federated learning with Byzantine-robust aggregation: A cross-domain framework for secure model training in banking and healthcare systems
该论文聚焦于联邦学习在银行、医院等受监管机构中的实际应用痛点。尽管联邦学习允许各方在不共享原始数据的前提下协同训练模型，但仍有两大安全隐患：一是客户端交换的参数更新仍可能通过梯度反演或成员推断攻击泄露本地记录信息；二是诸如 FedAvg 这
Population-Calibrated Graph Screening at 835-Million-Address Scale, with Label-Free Transfer to New Chains
本文介绍了一套已部署的区块链地址合规筛查系统，其核心思路是将地址判定从传统的制裁名单查询与聚类启发式，转变为基于其在多链交易图中的位置进行打分。系统底层构建了一个包含 835,330,427 个地址与 15,826,261,934 条边、跨
The Implications of Linguistic Illegibility for LLM Security
该论文由安全研究员 James Mickens 撰写，讨论了大型语言模型（LLM）安全中一个被忽视的根本性问题——“语言不可读性”（linguistic illegibility）。论文指出，LLM 被训练输出自然语言，但其内部计算本质上是
CodePoisonRAG: Knowledge Poisoning Attacks on Retrieval-Augmented Code Generation
该论文提出 CodePoisonRAG，一种针对检索增强代码生成（RACG）系统的上游知识投毒攻击框架。RACG 通过检索外部代码、文档和补丁并融入生成上下文来提升 LLM 的代码生成能力，但这种对外部知识的依赖引入了新的信任边界：攻击者可
SPADE: SPaT Attack Detection from the Connected Vehicle's Perspective
信号相位和定时（SPaT）消息是联网汽车（CV）安全的关键组件，通过车辆到基础设施（V2I）和车辆到车辆（V2V）通信，使车辆能够感知和响应交叉路口状态。然而，当路侧单元或对等车辆被入侵时，应用层攻击可以绕过传统认证机制，威胁 SPaT 消
Learning-Based Reconstruction Attacks on Coordinate-Obfuscated Point Clouds
本文针对基于点云表示的体积视频在沉浸式虚拟/增强现实应用中的安全内容投递问题展开研究。此类视频数据量大，为兼顾计算效率与安全，先前工作提出了选择性坐标加密框架：仅加密坐标子集以降低计算开销，同时使未授权内容在视觉上严重退化。然而，剩余未加密
Privacy Leakage in Federated Learning: Gradient-Based Client Identity Inference and Defenses for Inertial Sensing in Vehicular Edge Networks
本文研究车联网边缘智能场景下联邦学习（FL）的隐私泄露问题。虽然FL被普遍视为保护原始传感器数据的隐私方案，但客户端上传的模型更新（梯度/权重增量）仍可能泄露客户端身份，破坏V2X安全关键应用所依赖的匿名性，并增加对抗机器学习、模型中毒和后
Poisoning Attacks on the PGM-index
本论文研究了一种针对学习型索引结构 PGM-index 的投毒攻击方法。PGM-index 是一种基于最优分段线性近似（PLA）的实用学习索引，通过最小化分段数量来提升查询效率。作者首次探讨了这种最优 PLA 本身对恶意数据插入的敏感性，提