#intent-detection

共收录 2 条相关情报。

← 返回所有主题

学术论文2026-09-30 发布INFO

Speculative Safety Honeypot: Toward Proactive Defense Against Multi-turn Agent Attacks

这篇论文关注的是 LLM Agent 在多轮交互场景下所面临的安全威胁。随着 Agent 被部署到越来越复杂的工具调用与环境交互中，攻击者可以把恶意意图拆散到多个对话轮次里，逐步诱导 Agent 走向危险行为，而任何单独一轮的输入看上去都无

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.CL #agent-security #llm #multi-turn-attack #intent-detection

学术论文2026-05-07 发布INFO

One Turn Too Late: Response-Aware Defense Against Hidden Malicious Intent in Multi-Turn Dialogue

本文针对多轮对话中隐藏恶意意图的威胁，提出了一种响应感知的防御方法。攻击者可将恶意目的分散到多个看似无害的对话轮次中，绕过现有安全对齐和外部护栏。作者检测出“最早使得累计交互足以产生危害的轮次”，即“危害使能关闭点”，以实现精确的轮次级别干

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.CL #cs.AI #llm-security #multi-turn-dialogue #intent-detection