Covert Influence Between Language Models

该论文研究语言模型之间的隐蔽影响（covert influence）现象，即一个发送者模型通过人类无法察觉的载体（carriers）将其行为倾向（payload）传递给接收者模型。作者在三种接口上刻画了这种风险：监督微调（SFT）、在线策略

历史摘要 · 未重新核验 · arXiv cs.CR