Triaging Threats to Specialized Guardrails
本论文针对大型语言模型（LLM）在真实部署中安全护栏的鲁棒性问题展开研究。作者指出，现有安全数据集仅覆盖零散的风险子集且分类体系不一致，导致难以评估护栏模型的泛化能力。为此，本文首先构建了GuardZoo，一个统一的人工标注基准，包含32,
#safety-guardrails
共收录 1 条相关情报。
← 返回所有主题共收录 1 条相关情报。
← 返回所有主题本论文针对大型语言模型（LLM）在真实部署中安全护栏的鲁棒性问题展开研究。作者指出，现有安全数据集仅覆盖零散的风险子集且分类体系不一致，导致难以评估护栏模型的泛化能力。为此，本文首先构建了GuardZoo，一个统一的人工标注基准，包含32,