TYPO: Instruction-Dense Visual Jailbreaks against Commercial Closed-Source Image-Generation Models
本文发现商用图像生成模型（如GPT-Image-2、Nano Banana Pro等）在生成包含可读文本的图像（如海报、信息图）时，存在一种此前未被报告的安全漏洞：这些模型会拒绝直接输出有害文本，但当相同内容以图像中嵌入文本的形式呈现时，安
#adversarial-prompt
共收录 2 条相关情报。
← 返回所有主题Disentangling Adversarial Prompts: A Semantic-Graph Defense for Robust LLM Security
该论文针对大型语言模型（LLM）面临的对抗性提示攻击（如越狱、提示注入）提出了一种新颖的防御框架——对抗性提示解纠缠（APD）。研究背景指出，攻击者利用语义歧义绕过安全机制，导致有害输出，对安全关键型应用构成威胁。APD框架包含三个核心创新