Retrospective Distillation Attribution via Normalized Response Similarity
模型蒸馏通过在监督微调(SFT)阶段使用教师模型(通常来自商业 API)生成的回复来迁移能力,这使蒸馏后模型的来源归属(provenance)成为合规、许可与知识产权层面的现实问题。已有的蒸馏归因方法大多假设学生模型在 SFT 刚结束时就被
共收录 1 条相关情报。
← 返回所有主题模型蒸馏通过在监督微调(SFT)阶段使用教师模型(通常来自商业 API)生成的回复来迁移能力,这使蒸馏后模型的来源归属(provenance)成为合规、许可与知识产权层面的现实问题。已有的蒸馏归因方法大多假设学生模型在 SFT 刚结束时就被