Forecasting Trajectory-Level Safety Risks in Black-Box Multi-Turn Interactions
随着大语言模型（LLM）从独立助手演化为自主智能体，其安全挑战已从单点风险转向长时序轨迹中的风险演化。在多轮交互中，恶意意图可以被拆解到多个看似无害的轮次，再通过交互轨迹逐步重组，最终引发安全故障。现有防御手段大多是反应式的，只能检测已经发
#risk-forecasting
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题随着大语言模型（LLM）从独立助手演化为自主智能体，其安全挑战已从单点风险转向长时序轨迹中的风险演化。在多轮交互中，恶意意图可以被拆解到多个看似无害的轮次，再通过交互轨迹逐步重组，最终引发安全故障。现有防御手段大多是反应式的，只能检测已经发