推荐 3.5
Conf: 50%
本文聚焦于语义分割任务中的决策黑盒稀疏攻击问题。尽管稀疏决策黑盒攻击在分类领域已有研究,但在语义分割中尚缺乏系统性探索。作者首先将分类域中最具代表性的决策黑盒稀疏攻击方法改编至语义分割场景,构建了该未充分研究区域的基准测试。通过基准分析,发现现有基于图像中心像素累积的方法在语义分割的广阔像素空间中会导致查询预算迅速耗尽,严重降低查询效率。为克服这一瓶颈,作者提出 SegPAR 框架,将攻击的探索范式从图像中心转向类别中心,即针对每个语义类别或其局部区域进行独立优化,从而更高效地分配查询资源。同时,为消除像素累积过程中标准决策奖励产生的误导性反馈,设计了一种新颖的差异奖励机制,该机制能够更精确地评估不同类别对攻击效果的贡献,降低无效查询。大量实验表明,SegPAR 在稀疏度效率和平均交并比(MIoU)降低幅度上显著优于所有黑盒基线,甚至与白盒稀疏攻击相比也展现出竞争力。代码已公开。该工作揭示了语义分割模型在决策黑盒威胁下的新攻击面,为鲁棒性评估和防御研究提供了重要参考。
💡 推荐理由: 语义分割是自动驾驶、医学影像等安全关键应用的核心技术。该研究表明,攻击者无需模型内部信息即可通过稀疏像素扰动显著降低分割性能,提示防御者需重新评估黑盒场景下的模型鲁棒性,并采取针对性防护措施。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)