本论文针对大型语言模型(LLM)服务中的隐私保护问题提出了一种新的提示清洗方法PromptGraph。LLM推理过程中,用户的敏感信息不仅可能通过显式标识符(如姓名、电话号码)泄露,还可能通过看似无害的文本片段之间的上下文关联被推断。现有的提示清洗方法通常为每个片段单独分配隐私或效用信号,忽略了片段之间的成对关系。PromptGraph将每个提示表示为属性图,其中节点承载片段的隐私分数,边编码维持效用所需的上下文依赖关系。清洗目标是在最大化隐私增益的同时,惩罚上下文依赖关系的损失,从而在隐藏上下文证据时显式平衡隐私与效用。受保护的片段会被本地清洗,返回的占位符只有在通过局部一致性检查后才被恢复。实验结果表明,PromptGraph在隐私与效用之间取得了比现有的提示隐私基线更优的平衡。该方法为LLM隐私保护提供了新思路,特别适合需要同时保护隐私和保持推理质量的场景,如医疗、金融等敏感领域。
💡 推荐理由: 该研究提出了一种图引导的提示清洗方法,能够显式建模片段间的上下文依赖关系,在保护隐私的同时保持LLM推理的效用,为实际部署隐私保护LLM服务提供了可行方案。
🎯 建议动作: 研究跟进