推荐 11.7
Conf: 50%
本文研究了商业大型语言模型(LLM)应用商店中的配置泄露风险,提出了一种名为LLMThief的攻击方法。该方法通过精心设计的提示注入,利用LLM应用对外部输入的处理缺陷,成功从多个主流应用商店(如OpenAI GPT Store、百度文心一言等)中提取了敏感配置信息,包括API密钥、模型参数、后端数据库连接字符串等。作者首先系统分析了LLM应用商店的架构,识别出配置信息在应用打包、部署和运行时可能泄露的环节。LLMThief的核心思想是构造特殊的对话上下文,诱导LLM应用回显其内部配置或调用未授权接口。实验评估了超过50个商业LLM应用,发现约30%的应用存在配置泄露隐患,其中部分应用泄露的密钥可用于访问其他服务。本文还讨论了当前应用商店安全审核机制的不足,并提出了改进建议,如加强输入过滤、最小权限原则和动态配置加密。该研究为LLM应用生态的安全建设提供了重要参考,适合安全研究人员、LLM应用开发者和应用商店运营者阅读。
💡 推荐理由: LLM应用商店快速普及,配置泄露可能导致API密钥、模型参数等敏感信息暴露,引发数据泄露、服务滥用等严重安全事件。本文首次系统评估该风险,具有重要警示意义。
🎯 建议动作: 研究跟进
排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)