D-Judge: Disrupting Multi-Turn Jailbreaks using Semantics-Preserving Output Rewriting
多轮越狱攻击(Multi-turn Jailbreak Attacks)利用辅助评判模型(Judge Model)的反馈信号来迭代优化对抗性提示,逐步突破大语言模型(LLM)的安全防护。现有防御措施主要针对单轮响应或最终输出进行检测与阻断,
共收录 1 条相关情报。
← 返回所有主题多轮越狱攻击(Multi-turn Jailbreak Attacks)利用辅助评判模型(Judge Model)的反馈信号来迭代优化对抗性提示,逐步突破大语言模型(LLM)的安全防护。现有防御措施主要针对单轮响应或最终输出进行检测与阻断,