Same Bytes, Different Authority: Reserved-Token Representations in Chat-Template Prompt Injection
该论文研究 LLM 智能体场景下的提示注入（prompt injection）问题，聚焦一个以往被忽视的细节：当注入指令被模型自身的聊天模板标记（如 <|im_start|> 这类保留控制标记）包裹时，攻击效果会显著增强。核心观察是，同一段
#cs.LG
共收录 1064 条相关情报。
← 返回所有主题TANGO: Watermarking Masked Diffusion Language Models in Token Pairs
该论文关注掩码扩散语言模型中的文本水印问题。此类模型并行填充掩码位置且没有固定解掩码顺序，导致多数假设从左到右生成的水印方法失效：传统方法通常将每个 token 与它之前的 token 关联，但在扩散模型中，那些前序 token 可能仍处于
Physics-Attested Federated Learning: Securing Collaborative Anomaly Detection in Critical Water Infrastructure
该论文针对工业控制系统（尤其是关键水务基础设施）中联邦学习入侵检测的一个根本性缺陷展开研究：现有防御机制几乎全部在"模型更新空间"内运作（如 Krum、FoolsGold、Trimmed-Mean 等聚合规则），聚合服务器只能看到客户端上传
How to Tame a Multi-Headed Hydra? Adaptive Multi-Category Safety Steering for Large Language Models
该论文关注大语言模型（LLM）部署中的安全对齐问题：当用户输入包含有害意图时，模型可能给出不安全回答。作者指出，现有的激活引导（activation steering）方法虽然在推理阶段通过修改模型内部隐状态来提升安全性、且无需更新参数，但
Certified Multi-Source Integrity for Structured Agent Actions
该论文研究的是 LLM 智能体（agent）在执行高权限、往往不可逆的结构化操作（例如「支付某张发票」）时，如何对其动作完整性与来源可信性进行可证明的认证。作者指出当前威胁模型的关键特点：智能体并不是从一个单一可信答案中取值，而是从多份文档
The Privacy Fallacy of Crowdsourced Fine-Tuning: Extracting Proprietary Data via Topic-Based Poisoning
该论文研究监督微调（SFT）流程中被长期忽视的一个隐私风险。当前大模型适配下游任务普遍依赖众包方式收集用户对话作为 SFT 数据，以降低人工标注成本，但这也意味着不受信任的用户可以向微调数据管道中注入数据。作者提出的核心问题是：恶意用户是否
Training Witnesses: Trusting the Training without Trusting the Trainer
该论文针对机器学习领域一个日益尖锐的结构性问题：研究进展的速度已经超过了验证能力。随着论文数量激增，每一项科学结论在最初阶段都只能依赖对「训练者」的信任，由此造成评测标准不统一、基线不可比、可靠进展被拖慢。传统上验证负担落在读者身上——读者
No Free Efficiency: Revisiting the Trade-off Between Training Efficiency and Model Vulnerability
该论文研究了基础模型训练效率与模型脆弱性之间可能存在的权衡关系。近年来，为应对大规模训练带来的巨大算力与数据需求，研究者广泛采用选择性数据采样、高效预训练以及简化强化学习（RL）训练管线等策略。这些方法显著降低了开销，但作者提出一个此前被忽
RAISE: Reinforcing Access Control Policy Synthesis in LLMs via Symbolic Evaluation
该论文关注一个在云权限治理中极具现实意义的问题：如何把自然语言描述的访问控制需求，可靠地翻译成形式化、可验证的授权策略。作者指出，这类转换并不只是语法层面的翻译，而需要对权限、约束与例外条件进行严格推理，即便当前最前沿的大模型也常常生成语义
Tokens Change, Structure Endures: Spectral Watermarking for Generated Speech
该论文关注 AI 生成语音的溯源问题，即如何可靠地标识一段语音是由哪个模型生成的。现有神经音频水印方案大多依赖单独训练的水印生成器，而 token 级水印是一种免训练（training-free）的替代路线，可在生成过程中直接对离散 tok
COGNIT-Guard: Calibrated Standalone Direct-Decision Guardrails with Heterogeneous CPU-NPU Confidence Cascading under Explicit Latency and False-Positive Constraints
该论文研究的是"预摄取（pre-ingestion）阶段"的实时安全护栏问题：在目标大模型开始 prefill 之前就要完成提示词筛查，并同时满足三个约束——概率输出必须经过校准、必须把合规类"两用"查询的误报压到极低、以及要在明确的延迟
Climbing the Hill: Prompt Injection Red-Teaming Against Frontier Models with Curriculum Reinforcement Learning
该论文聚焦大语言模型（LLM）及其衍生的智能体（agent）应用所面临的提示注入（prompt injection）安全风险，研究如何自动化地对前沿模型开展红队测试。现有基于强化学习（RL）的红队方法通常训练一个“攻击者 LLM”来生成注入
The Price of Peeking: Anytime-Valid Leakage Detection on ML-KEM EM Traces
该论文研究的是侧信道评估中一个长期被忽视的统计方法论问题：评估人员通常在数据采集仍在进行时就反复查看泄漏检测结果（peeking），并据此决定延长或提前终止采集。这类“边采边看”的监控式决策规则，使经典的固定样本量检验（如阈值 |t|>4.
API Secrets Should Never Become Tokens in the LLM's Vocabulary: A Threat Analysis of API Credential Handling in LLM Agent Systems and an Empirical Evaluation of a Vault-Mediated Execution Boundary
这篇论文指出，随着具备工具调用能力的大模型（LLM）智能体被广泛部署，API 凭证管理的问题性质发生了根本变化：它不再只是"密钥存放是否加密"的存储安全问题，而升级为"密钥会不会进入模型执行链路"的执行安全问题。作者提出的核心论点是：一旦密
Geometry-Adaptive Mechanisms for Private Synthetic Data
该论文研究的是差分隐私（DP）合成数据生成中的效用保证问题，具体以 1-Wasserstein 距离作为效用度量。背景与核心问题：对定义在 [0,1]^d（d≥2）、样本量为 n 的数据集，已有纯 ε-差分隐私机制所能达到的期望 1-Was
Leaky Students: Membership Inference against On-Policy Distillation
该论文研究的是「在线策略蒸馏（On-Policy Distillation, OPD）」场景下的成员推断攻击（Membership Inference）。OPD 的训练方式与传统蒸馏不同：它让学生模型在自己生成的轨迹上，去匹配教师模型给出的
Zero-Storage Procedural Neural Synthesis via Boundary Dynamics: Formal Verification in Lean 4 and Bare-Metal Gauntlet Validation
当前主流神经网络推理依赖存放在高带宽显存中的稠密浮点权重矩阵，既受严重的内存墙瓶颈制约，也无法在以太坊虚拟机（EVM）等确定性虚拟机上原生执行。而在 Blum-Shub-Smale 模型下，对连续域上递归动力系统的终止性与算术不变量做验证一
AnchorMixGAN: Anchor-Aligned Generative Semi-Supervision for DDoS Detection in Cloud-Integrated IoT Networks
该论文面向云化集成 IoT 网络中的分布式拒绝服务（DDoS）检测场景。此类环境中攻击流量形态多样、标注成本高昂，往往只有极少比例的流量被打上标签，导致监督式检测器难以训练充分。生成式半监督学习被认为是缓解标注稀缺的可行思路：利用生成模型补
Retrospective Distillation Attribution via Normalized Response Similarity
模型蒸馏通过在监督微调（SFT）阶段使用教师模型（通常来自商业 API）生成的回复来迁移能力，这使蒸馏后模型的来源归属（provenance）成为合规、许可与知识产权层面的现实问题。已有的蒸馏归因方法大多假设学生模型在 SFT 刚结束时就被
Silent Failures in Agentic Security Evaluation: A Validated Harness for Tool-Call Mediation Under Indirect Prompt Injection
本文聚焦 LLM Agent 安全评测的「有效性」问题。当 LLM Agent 能够调用具备特权能力的工具（文件读写、邮件发送、代码执行、外部 API 等）时，它就成为间接提示注入（IPI, Indirect Prompt Injectio