PreferCare: Preference Dataset Copyright Protection in LLM Alignment by Watermark Injection and Verification.
本文提出 PreferCare,这是首个专门针对 LLM 对齐训练中偏好数据集版权保护的水印注入与验证框架。随着 LLM 应用安全性需求日益迫切,对齐训练算法(如 RLHF/DPO 等)依赖大量高质量偏好数据来微调模型,使其行为符合人类价值
共收录 8 条相关情报。
← 返回所有主题本文提出 PreferCare,这是首个专门针对 LLM 对齐训练中偏好数据集版权保护的水印注入与验证框架。随着 LLM 应用安全性需求日益迫切,对齐训练算法(如 RLHF/DPO 等)依赖大量高质量偏好数据来微调模型,使其行为符合人类价值
本文针对深度学习时代数据版权保护面临的两大威胁:未经授权的模型训练(非法利用数据训练模型)和恶意数据泄露(攻击者窃取或泄露受保护数据)。现有方法通常分别使用不可学习样本(unlearnable examples)和数字水印技术,但作者发现简
本文针对扩散桥模型的主动版权保护问题,提出了一种名为GoodDiffusion的防御机制。当前的主流保护方法主要分为事后归因(如数字水印和指纹)和退化防御,这些方法仅提供间接且有限的预防效果。受后门攻击机制的启发,GoodDiffusion
该论文提出了一种针对脉冲神经网络(SNN)的主动版权保护框架SpikeTimer。SNN在低功耗计算和事件驱动数据处理方面具有优势,但现有版权保护方法主要针对传统深度神经网络(DNN),难以直接迁移至SNN,因其具有复杂的时序编码和脉冲驱动
自监督学习作为一种新兴的机器学习范式,利用无标签数据预训练强大的编码器,这些编码器可作为特征提取器服务于各种下游任务。然而,由于预训练过程需要大量数据和计算资源,编码器本身成为模型所有者的宝贵知识产权。研究表明,模型窃取攻击通过训练替代模型
该论文提出了 SentinelRAG,一种用于保护专有 RAG(检索增强生成)数据库版权的数字水印框架。现有水印方法存在两个主要问题:一是通过在真实实体之间注入虚假关系来污染知识库,从而引入错误信息;二是嵌入的脆弱词汇模式容易被对抗性改写删
本文针对数据集蒸馏(Dataset Distillation, DD)技术中的版权保护问题展开研究。DD通过合成小型但信息丰富的数据集来降低大规模数据集的存储、计算和能源成本,但其易复制和分发的特性带来了严重的版权侵权和数据泄露风险。现有的
随着垂直领域预训练语言模型(VPLMs)在医疗、金融、法律等专业领域的广泛应用,模型参数和推理能力已成为重要的数字资产。如何实现VPLMs的可追溯版权验证成为一个迫切挑战。现有的版权验证方法主要依赖向模型嵌入后门水印,但这些方法大多需要额外