SSP-Bench: A Hybrid Data Generation Framework for Safety, Security, and Privacy Evaluation
该论文针对大语言模型(LLM)在安全(safety)、安保(security)与隐私(privacy,合称 SSP)评估中长期依赖静态基准的问题提出改进方案。作者指出,静态基准存在三类结构性缺陷:分数饱和(模型表现趋同、区分度丧失)、数据污
共收录 2 条相关情报。
← 返回所有主题该论文针对大语言模型(LLM)在安全(safety)、安保(security)与隐私(privacy,合称 SSP)评估中长期依赖静态基准的问题提出改进方案。作者指出,静态基准存在三类结构性缺陷:分数饱和(模型表现趋同、区分度丧失)、数据污
本文对AI角色平台(允许用户与AI人格进行对话的快速发展的应用领域)进行了首次大规模安全研究。研究评估了16个主流平台,使用涵盖16个安全类别的5000个问题的基准集。结果显示,AI角色平台的平均不安全响应率高达65.1%,远高于基线的17