Prefilling the Reasoning Channel: Output-Prefix Attacks on Reasoning LLMs
该论文研究的是推理型大模型(Reasoning LLM)的“输出前缀攻击”。由于 LLM 本质上是自回归地消费并生成单一文本序列,只要能够在模型响应的起始位置插入一段文本(即输出前缀/prefill),其后所有 token 都会以这段内容为
共收录 9 条相关情报。
← 返回所有主题该论文研究的是推理型大模型(Reasoning LLM)的“输出前缀攻击”。由于 LLM 本质上是自回归地消费并生成单一文本序列,只要能够在模型响应的起始位置插入一段文本(即输出前缀/prefill),其后所有 token 都会以这段内容为
本文重新审视了人脸识别系统(FRS)中的 MasterFace 冒充攻击。在现实的对抗能力约束下(例如仅有限的基于决策结果的认证尝试次数、且攻击者不了解系统内部结构),大多数已知攻击技术难以实施,因此零努力冒充者(即仅依赖误匹配率 FMR
本文提出 NAUTILUS,一种自动化检测 RESTful API 漏洞的系统。RESTful API 在现代微服务架构中广泛使用,但其安全测试面临状态依赖、参数组合爆炸等挑战。NAUTILUS 通过解析 API 规范(如 OpenAPI)
本文首次展示了一种攻击方法,能够通过仅对语言模型(LM)进行典型的API访问,以极低的经济成本窃取其解码算法的类型和超参数。解码算法是语言模型生成文本的关键组件,决定了如何从LM输出的内部概率分布中选出文本。选择和调优解码算法需要大量时间、
本文针对 REST API 安全中因文档不完整或缺失导致传统安全方案失效的问题,提出了一种无监督异常检测方法 HRAL(HTTP REST API Learning)。HRAL 直接从网络流量中学习 API 端点结构(如 URL 路径、参数
本文针对现代企业面临日益严重的API安全威胁问题,提出了一种基于零信任架构(Zero-Trust Architecture)的“安全优先”API流水线开发框架。研究背景指出,API已占Web流量主导地位,成为数据泄露的主要载体,99%的组织
本文研究大型语言模型(LLM)推理API中提示缓存(prompt caching)实现的安全隔离问题。提示缓存通过复用请求的KV缓存来节省计算资源并加速响应,但许多实现存在时序攻击或元数据泄露风险。Gu等人(ICML 2025)已提出一种审
该论文对公开披露的漏洞赏金报告中的“对象级授权失效”(BOLA)漏洞进行了首次大规模实证分析。作者从HackerOne平台收集了200份标记为IDOR或不当访问控制的报告(2021-2026年),并应用三标准包含过滤器,最终得到107份已分
本文提出了一种名为PEMark的API响应水印方案,旨在解决API数据泄露后的溯源问题。现有水印技术通常需要修改数据库或API响应数据,这会迫使业务系统代码变更,甚至因数据值改变而影响正常业务。作者创新性地利用JSON/XML键值对顺序中固