推荐 10.6
Conf: 50%
研究背景: 大语言模型正越来越多地驱动 Codex、Claude Code 等自主编码智能体,而其训练语料可能包含公开仓库中泄露的凭据,或从私有开发产物中收集的机密,因此存在被模型记忆并在后续交互中泄露的风险。现有针对密钥提取的审计工作大多假设研究者可以访问模型权重或 token 概率,这一前提对商用闭源 API 并不成立,导致真实部署场景下的记忆化泄露风险缺少可评估手段。本文的核心问题是: 在仅有输出访问(output-only)的黑盒条件下,能否系统性地从商业 API 模型中提取出其记忆的密钥。作者提出的框架由两部分组成: 一是交叉验证式密钥知识蒸馏,利用语义保持的提示变体、响应交叉验证以及按厂商定制的格式过滤,把与密钥相关的模型行为蒸馏进本地白盒代理模型,从而在没有权重和概率的接口上重建可用于分析的行为信号; 二是代理引导的密钥提取与候选过滤,将截断 top-p 采样、本地 token 熵、N-gram 频率画像与厂商特定结构先验结合,用于生成候选并筛除明显无效的字符串。在受控 API-key 基准测试中,该框架相较若干代表性基线在恢复效果与真实密钥率上有提升,同时降低了提取所需延迟。作者还在负责任评估流程下进行了真实环境验证,从三套独立部署、覆盖 OpenAI 与 Claude Code 的黑盒 LLM 系统中恢复了被掩码的厂商特定凭据,说明即使在仅有输出访问的条件下,被记忆的密钥也可能被暴露。
💡 推荐理由: 即使只能调用 API、看不到权重与概率,模型记忆的训练语料密钥仍可能被还原。对把密钥写入仓库、上下文或训练数据的团队,以及需要为 API 模型做安全背书的供应商与合规方,都是直接风险。
🎯 建议动作: 研究跟进并纳入内部评估
排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)