Adversarial Reframing: A Framework for Targeted Generation in Language Models
大型语言模型（LLMs）在各类实际场景中广泛应用，但仍易受到越狱攻击，即通过基于提示的攻击绕过安全过滤器。本文提出THREAT（通过重框和利用对抗策略进行目标有害生成）框架，这是一个基于推理的框架，协调多个LLM在迭代搜索循环中寻找文本越狱
#adversarial-jailbreaking
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题大型语言模型（LLMs）在各类实际场景中广泛应用，但仍易受到越狱攻击，即通过基于提示的攻击绕过安全过滤器。本文提出THREAT（通过重框和利用对抗策略进行目标有害生成）框架，这是一个基于推理的框架，协调多个LLM在迭代搜索循环中寻找文本越狱