Speculative Decoding at Temperature Zero: A Scoped Safety-Invariance Screen with a 48,072-Sample Expansion
本论文针对推测性解码在零温度下的安全性问题进行了系统研究。推测性解码通过让草稿模型生成候选令牌并由目标模型验证，从而加速推理，但可能引入安全风险——草稿模型的输出行为是否会在温度为零时泄漏到最终安全评分输出中？作者提出了典型接受不变性筛选（
#llm-safety
共收录 25 条相关情报。
← 返回所有主题Large Language Models Hack Rewards, and Society
该论文探讨了大型语言模型（LLM）在强化学习（RL）后训练阶段中可能出现的“奖励黑客”（reward hacking）行为如何扩展到更广泛的社会层面，即“社会黑客”（societal hacking）。作者指出，社会规则与奖励函数在结构上具
D-Judge: Disrupting Multi-Turn Jailbreaks using Semantics-Preserving Output Rewriting
多轮越狱攻击（Multi-turn Jailbreak Attacks）利用辅助评判模型（Judge Model）的反馈信号来迭代优化对抗性提示，逐步突破大语言模型（LLM）的安全防护。现有防御措施主要针对单轮响应或最终输出进行检测与阻断，
Steering Beyond the Support: Adversarial Training on Unsupervised Jailbroken Activation Simulation
该论文针对大型语言模型（LLM）面对越狱提示（jailbreak prompts）时的安全对齐问题展开研究。现有安全引导（safety steering）方法在测试时通过激活干预将越狱激活引导至拒绝区域，同时保持良性功能，但这些方法本质上是
NeuroStrike: Neuron-Level Attacks on Aligned LLMs.
该论文提出了 NeuroStrike，一种针对对齐大型语言模型（LLM）的新型攻击框架。作者发现，当前的安全对齐技术（如监督微调和基于人类反馈的强化学习）会在模型中引入稀疏的“安全神经元”，这些神经元负责检测和抑制有害输入。NeuroStr