Information Theoretic Adversarial Training of Large Language Models
本文提出一种基于信息论的对抗训练框架WARDEN,用于提升大型语言模型(LLM)对提示注入等对抗攻击的鲁棒性。当前LLM虽经过对齐与安全训练,仍易受新型攻击策略诱导产生有害行为。现有对抗训练方法计算成本高、难以扩展。最近出现的连续对抗训练方
共收录 2 条相关情报。
← 返回所有主题本文提出一种基于信息论的对抗训练框架WARDEN,用于提升大型语言模型(LLM)对提示注入等对抗攻击的鲁棒性。当前LLM虽经过对齐与安全训练,仍易受新型攻击策略诱导产生有害行为。现有对抗训练方法计算成本高、难以扩展。最近出现的连续对抗训练方
本文提出 SILMARILS,一种基于信息论和量子安全的设计者验证签名方案,构建于有限域 F_p 上的最小代数核心,使用真随机性和完美 2-out-of-2 Shamir 秘密共享。方案支持两方和三方模式。两方模式下,实现可转移设计者验证签