Forecasting Trajectory-Level Safety Risks in Black-Box Multi-Turn Interactions
随着大语言模型（LLM）从独立助手演化为自主智能体，其安全挑战已从单点风险转向长时序轨迹中的风险演化。在多轮交互中，恶意意图可以被拆解到多个看似无害的轮次，再通过交互轨迹逐步重组，最终引发安全故障。现有防御手段大多是反应式的，只能检测已经发
#multi-turn
共收录 3 条相关情报。
← 返回所有主题LLM agent safety, multi-turn red-teaming, jailbreak benchmarks, adversarial robustness, safety-critical systems
本文提出了NRT-Bench，一个用于多轮红队测试LLM代理在安全关键系统中鲁棒性的基准。研究背景是LLM代理越来越多地被提议作为安全关键系统的监督组件，但它们在持续自适应对抗压力下的鲁棒性尚未充分表征。作者将场景实例化为一个模拟的核电站控
Transient Turn Injection: Exposing Stateless Multi-Turn Vulnerabilities in Large Language Models
提出一种名为Transient Turn Injection (TTI)的新型多轮攻击技术，通过跨隔离交互分布恶意意图来利用大语言模型的无状态审核漏洞。