#security-models

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Konstantin Berlin

本文针对部署在对抗性环境中的安全检测模型,提出了一种全范围二元分类器校准方法(Full-range Binary Classifier Calibration)。在恶意流量/样本分布快速漂移而良性分布相对稳定的场景下,安全团队需要频繁重训练模型以保持对新威胁的检出能力。然而,重训练会改变模型输出的预测分数,破坏下游依赖该分数的机制(如阈值、排序等)。传统的概率校准方法旨在使输出值逼近类概率,但安全场景更关心的是在不同部署版本间,同一输出分数对应的假阳性率(FPR)保持一致性。本文设计的方法基于现有校准原语(如 Platt scaling、等张回归等),通过在全FPR区间(从10%到0.01%)上优化,使得模型更新后输出分数具有稳定的FPR含义。在独立保留的测试集上,该方法在10%至0.1% FPR范围内观察到的相对FPR误差最大仅为2.3%,在0.01% FPR下误差为7.2%。此外,校准模型的产物(校准器)大小控制在200 KB以下,适用于1K至10M良性样本的校准集。该方法不依赖特定模型架构,可与现有安全ML流程集成。主要贡献是定义了面向安全场景的校准目标(FPR一致性),并提供了高效、轻量的实现。适合安全工程师、MLOps团队、以及研究模型部署稳定性的学者阅读。

💡 推荐理由: 安全检测模型因频繁重训练导致输出分数漂移,直接影响下游规则和自动化响应可靠性。本文提供的校准方法能确保模型更新前后FPR一致,减少误报波动,降低运维成本。

🎯 建议动作: 研究跟进:评估该方法在自身安全检测模型上的效果,并与现有校准方法对比。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)