Security Properties of Neural Networks as Decision Problems
该论文从计算复杂性角度重新审视已部署神经网络的安全认证问题。验证文献长期聚焦鲁棒性等少量性质,但作者指出实际部署中还存在一类未被系统分类的决策问题:模型是否携带训练阶段植入的后门、存储参数故障是否会把网络推入不安全状态、输出是否泄露输入中的
共收录 2 条相关情报。
← 返回所有主题该论文从计算复杂性角度重新审视已部署神经网络的安全认证问题。验证文献长期聚焦鲁棒性等少量性质,但作者指出实际部署中还存在一类未被系统分类的决策问题:模型是否携带训练阶段植入的后门、存储参数故障是否会把网络推入不安全状态、输出是否泄露输入中的
该论文提出SecureCROWN,首个用于隐私保护神经网络鲁棒性验证的框架。神经网络验证与数据隐私存在固有矛盾:验证需要完全访问模型参数和输入数据,但这受到隐私法规和知识产权限制。SecureCROWN基于安全两方计算(2PC),使模型所有