P2Skill: Privacy Preserving Skill Distillation for Cloud-Local LLM Inference Systems
本文提出了一种名为 P2Skill 的隐私保护技能蒸馏方法，用于云-本地大语言模型（LLM）推理系统。在典型的云-本地架构中，云端大模型提供强大的推理能力，而本地设备负责处理敏感用户数据。为了保护隐私，发送到云端的请求必须剥离个人身份信息（
#distillation
共收录 2 条相关情报。
← 返回所有主题Asking Back: Interaction-Layer Antidistillation Watermarks
这篇论文针对大型语言模型（LLM）API服务中难以检测的未授权知识蒸馏问题，提出了一种新颖的交互层反蒸馏水印方案。现有防御手段主要在教师模型的输出token层面施加水印，例如绿名单水印、密码学方案或反蒸馏采样，但这些方法容易被攻击者通过改写