#dlp

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Kyutae Park, Jungwon Kim, Daeyeol Shim

本文提出 PolicyGuard,一个面向 LLM 编程助手的提示词拦截框架,用于在用户提示词进入代码生成模型之前进行语义级数据防泄漏(DLP)检测。研究背景是:AI 编程助手接受自由形式的自然语言提示,其中可能无意包含凭据、个人身份信息(PII)或专有业务数据,而现有 DLP 方案依赖刚性正则、模型微调或厂商管理的分类器,定制性受限。PolicyGuard 的核心创新是“策略即提示”(policy-as-prompt)范式:将 DLP 分类标准完全定义在一个纯文本策略文件中,非工程师无需编写代码或重新训练模型即可编辑策略。框架使用 LLM 对用户提示进行分类,依据该自然语言策略判断是否应阻止。作者还设计了严格的评估协议,包括模板族级数据划分、隐藏保留集和冻结测试集,以评估泛化能力。实验基于 2,000 条多语言提示,在 927 条冻结测试集上达到 96.5% 的有效阻止率(EBR)和 3.0% 的误报率(FPR),在 217 条隐藏保留集上达到 100% 准确率。信息匹配基线的对比实验表明,自然语言策略格式显著优于等效 JSON 格式(McNemar 卡方=31.58, p<0.001),并大幅优于零样本分类(Cohen's h=0.915)。跨模型可移植性实验显示,同一策略在四种不同 LLM 上无需修改即可达到 86.4%-96.5% 的 EBR。适合安全工程师、DLP 产品研发人员及 LLM 应用架构师阅读。

💡 推荐理由: LLM 编程助手正成为敏感数据泄漏的高风险入口,PolicyGuard 提供了一种无需模型重训、策略可被非工程师编辑的轻量 DLP 方案,对蓝队快速定制数据保护策略有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)