#deployment-interface

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Kunlan Xiang, Haomiao Yang, Wenbo Jiang

本文研究了对比语言-图像预训练(CLIP)模型在不同下游部署接口(如特征提取、检索、重排序和选择)中后门暴露的一致性问题。现有CLIP后门攻击通常在单一原生任务上验证,但模型复用时,相同后门在不同接口下的暴露程度未知:可能保持、减弱或失效。作者提出DIFE(部署接口足迹评估)框架,通过指定每个接口的组件读出、触发通道、目标事件、参考条件和指标,实现跨接口的可比评估。DIFE还引入了有效足迹诊断,识别承载暴露的可复用CLIP组件或组件组合,并解释风险迁移。使用DIFE审计复现的CLIP后门发现:原生成功并非检查点级别的风险证书;暴露遵循组件足迹;文本侧中毒不会导致文本编码器控制;某些耦合攻击仍受机制限制。审计还揭示了现有CLIP后门中的关键缺口:文本编码器本身可成为对抗行为的可复用载体。为此,作者提出BadTextTower攻击,能够在文本条件检索、重排序和选择中产生强暴露,同时保持视觉复用几乎干净。实验证明了框架的有效性和攻击的威胁性。

💡 推荐理由: 揭示了CLIP模型后门在不同部署接口下的暴露差异,强调原生成功不代表整体安全,并指出文本编码器成为新风险载体,对模型复用场景的安全评估具有重要指导意义。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)