DuplexJail: Safety Alignment Breaks Under Spoken Interruption in Full-Duplex Models

该论文关注全双工语音模型（full-duplex speech models）带来的一个被忽视的攻击面：这类模型在生成回复的同时仍持续接收用户语音输入，因此攻击者可以在模型「说话」期间通过用户音频通道插入额外的语音内容，从而与当前对话轮次解

历史摘要 · 未重新核验 · arXiv cs.CR