Position: Retire the "Positive Backdoor" Label -- Secret Alignment Requires Strict and Systematic Evaluation
该立场论文指出,AI/ML 社区不应过度使用“正向后门”(positive backdoor)这一标签,而应将触发激活的隐藏行为视为“秘密对齐”(Secret Alignment)。在私有AI时代,开放权重的大语言模型和可获取的训练/推理栈
共收录 1 条相关情报。
← 返回所有主题该立场论文指出,AI/ML 社区不应过度使用“正向后门”(positive backdoor)这一标签,而应将触发激活的隐藏行为视为“秘密对齐”(Secret Alignment)。在私有AI时代,开放权重的大语言模型和可获取的训练/推理栈