GAS-Leak-LLM: Genetic Algorithm-Based Suffix Optimization for Black-Box LLM Jailbreaking
大型语言模型（LLM）在AI驱动的信息技术生态中扮演核心角色。为降低有害或违规输出风险，商业系统采用先进的对齐策略和多层内容审核机制。然而，研究表明LLM仍易受对抗性操纵，尤其是越狱和提示注入攻击。本文提出GAS-Leak-LLM，一种基于
#jailbreaking
共收录 2 条相关情报。
← 返回所有主题TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking
随着LLM Agent（智能体）的兴起，它们能够自主规划、编写代码甚至端到端执行专家级的攻击工作流，这带来了新的安全威胁。然而，这种威胁目前尚未被充分研究和重视，原因有二：一是安全对齐机制阻止LLM直接生成有害指令；二是现有的越狱方法大多无