Balancing Privacy, Utility, and Safety in LLM Alignment through Preference Optimization
这篇论文研究了大语言模型对齐过程中偏好数据组成对隐私记忆的影响。作者指出，尽管偏好优化（如DPO）被广泛用于让模型符合人类偏好，但偏好数据的构成可能影响与隐私相关的记忆行为。他们聚焦于一个关键问题：在不修改优化目标、也不引入形式化隐私机制的
#dpo
共收录 2 条相关情报。
← 返回所有主题Private Direct Preference Optimization for LLM Alignment
直接偏好优化（DPO）已成为利用人类偏好数据对齐大语言模型（LLM）的标准方法。每个 DPO 样本包含一个提示（prompt）和一对候选模型回复，而回复之间的相对偏好往往反映标注者或终端用户的主观判断，可能揭示其敏感属性。现成的隐私保护方法