#abuse-detection

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Garrett Wilson, Geoffrey Goh, Yan Jiang, Ajay Gupta, Jiaxuan Wang, David Freeman, Francesco Dinuzzo

该论文提出了一种名为预测响应优化(Predictive Response Optimization, PRO)的框架,用于解决在线社交网络(OSN)中的滥用检测问题。传统研究几乎都将滥用检测视为一个二元分类问题,即训练一个高精度/高召回的分类器将样本标记为良性或恶意,但很少关注检测后应执行何种动作。作者指出,实际对抗滥用的目标并非完美分类,而是通过选择动作(如封禁用户、拦截请求、显示验证码、收集更多证据等)来优化滥用危害与对良性用户体验影响之间的权衡。基于这一视角,论文将问题形式化为强化学习:系统利用上下文信息,预测在每种可能动作下的未来滥用和用户体验指标,并选择能够最优权衡多维目标的动作。作者强调,扩大动作集合能够在帕累托前沿上达到比单纯调整二元分类器阈值更好的效果。论文在Instagram和Facebook上部署了针对自动活动(如自动化滥用)的PRO系统版本,实验表明,与基线分类系统相比,PRO在不损害用户体验的前提下,分别将滥用数量减少了59%和4.5%。此外,论文通过案例研究展示了PRO能够快速自动适应业务约束、系统行为或对抗策略的变化。该工作的主要贡献是:首次将检测后的响应决策纳入优化目标,提出基于强化学习的端到端动作选择框架,并在真实社交网络平台上验证了其有效性。适合关注社交网络滥用防御、安全自动化决策以及将机器学习应用于内容平台安全的研究人员和蓝队工程师阅读。

💡 推荐理由: 该研究突破了传统的分类器思维,将防御动作的权衡纳入优化目标,为社交平台自动化对抗滥用提供了更接近实际部署的决策方法,值得安全运营和风控团队关注。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)