Persona Guardrail: A Production-Grade Defense Framework for Agentic Systems
该论文关注的是基于大语言模型的智能体（agent）在生产环境中的功能边界失控问题。作者指出，当前多数运行时护栏（runtime guardrail）主要针对提示注入等特定攻击行为，且普遍在黑盒威胁模型下工作，难以保证智能体「只在被授权的功能
#out-of-domain-detection
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题该论文关注的是基于大语言模型的智能体（agent）在生产环境中的功能边界失控问题。作者指出，当前多数运行时护栏（runtime guardrail）主要针对提示注入等特定攻击行为，且普遍在黑盒威胁模型下工作，难以保证智能体「只在被授权的功能