这篇论文提出了一种全新的对抗样本生成方法，称为基于概念的对抗攻击。与传统的像素级扰动（例如添加不可见噪声来欺骗深度神经网络）不同，该方法通过直接修改神经网络高层中编码语义概念的激活值，将原始样本的表示向目标样本的方向移动，然后利用修改后的激活值进行图像重构，从而生成对抗样本。这样的对抗样本在人类眼中可能显示出可见的差异，甚至可能看起来像是来自其他类别的“伪造”图像，具体取决于攻击者设定的约束。研究动机在于许多真实世界的决策流程是“人机混合”的，人类和机器会共同参与分析，例如内容审查、医疗诊断等；传统的不可见扰动虽然能骗过机器，却会因为人类注意而失效，而这种新方法生成的对抗样本能够同时欺骗人类观察者和分类器。作者在深度神经网络上进行了评估，并展示了对抗样本在不同网络之间的可迁移性，这意味着攻击者可能不需要完全了解目标模型即可实施攻击。该研究的主要贡献在于指出并验证了一种新型的攻击面，对于关注AI安全、对抗机器学习以及人机协作场景下的防御工作者具有重要的参考价值。需要强调的是，本摘要仅基于论文摘要部分，未获得全文实验细节。