生成对抗网络（GAN）在合成逼真图像方面取得了显著进展，甚至能够欺骗人类观察者。为应对深度伪造带来的安全风险，已有多种检测方法通过识别生成过程中残留的图像伪影来区分真实与合成内容。然而，已有反攻击研究揭示了这些检测方法的局限性，但多数反攻击需要满足特定条件，例如需要与检测模型进行交互或直接调整生成器。本文提出了一类新颖且简单的反攻击方法，突破这些条件限制。作者发现，攻击者可以直接在生成图像的频域中去除指示性伪影，即所谓的“GAN指纹”。他们系统探索了多种指纹去除方式，从简单的对高频分量进行滤波，到更为精细的针对特定频率峰值的清除。通过在多种检测方法、GAN架构和数据集上的实验评估，作者证明了这种攻击能够有效移除GAN指纹，从而使生成的图像成功规避检测。这项研究不仅揭示了一种高效且易于实施的攻击途径，还指出了当前深度伪造检测技术的一个关键盲区，即过度依赖生成伪影的检测策略存在根本性脆弱性。该工作对数字取证、内容真实性验证以及社交媒体平台的内容安全治理具有重要的警示意义，强调了需要发展更具鲁棒性的检测范式，例如结合语义信息、生成模型先验或跨模型一致性分析。对于安全从业者而言，理解此类攻击有助于重新评估现有检测体系的可靠性，并为设计下一代防御措施提供参考。本摘要基于论文摘要生成，未涉及具体攻击实现细节。

本文是团队"Go To Germany"参加ImageCLEF 2026深度伪造检测与生成任务的系统描述，并在官方任务之外额外开展了基于净化的对抗检测研究。在图像生成任务中，作者使用FLUX.1-dev与PuLID进行身份保持的人脸合成，并设计了一种针对12个检测器同时进行的多模型PGD对抗攻击，该攻击集成了DiffJPEG可微压缩环、MI/DI/EoT多种梯度优化策略、自适应权重以及两阶段热启动机制。该攻击使生成图像对组织方检测器逃脱率达90%，对参赛方检测器逃脱率57.6%，最终生成得分为0.4170。在图像检测任务中，作者组合了两种互补检测器：SigLIP+DINOv2用于识别AI生成图像，GenD-DINOv3用于识别人脸操作，通过最大概率集成，在基线深度伪造上达到99.4%的准确率，但在真实图像上产生较高的假阳性率，最终检测得分为0.6986。在官方提交之外，作者自主探索了基于净化的对抗检测方法，比较了三种检测信号家族，并基于共享CLIP ViT-L/14骨干的六个检测器进行了实验。结果表明，在采用中值滤波（median-3）净化后，通过EFFORT检测器使用的原始|Δlogit|（净化前后logit差异绝对值）能够在四种对抗源类型上将对抗输入与干净输入分离，AUROC达到0.81-0.98。这一发现反驳了简单的骨干保留假说（即净化会破坏对抗扰动，从而暴露对抗样本），并揭示了在JPEG质量因子Q70处存在一个尖锐的质量悬崖，当质量低于该阈值时，检测信号会突然崩溃。该研究为深度伪造检测与对抗鲁棒性提供了实证洞察。

本文提出了一种多模态深度伪造新闻检测框架，旨在通过同时分析视频中的音频和视觉线索来鉴别视频内容的真实性。该框架首先从唇部运动（使用LipNet编码）、音频内容（使用DeepSpeech2编码）和视频帧（通过BlazeFace检测人脸并用ResNet18提取视觉特征）中提取特征。然后将这些特征向量拼接成统一的视频表示，并使用集成分类器（随机森林RF、多层感知器MLP、长短期记忆网络LSTM）进行真伪判别。在FakeAVCeleb数据集上的实验表明，该方法在增强音频特征的情况下达到了94%的准确率，优于现有的多模态集成基线。研究证实了该框架在深度伪造新闻检测中的鲁棒性和实际应用潜力。

本文提出了一种名为GLID（Gated Local Intrinsic Dimension）的人脸伪造检测方法，旨在解决现有基于微调基础模型的检测器对未见过的生成器家族（如GAN或扩散模型生成的图像）检测能力不足的盲点问题。传统检测器在训练时仅接触部分生成器家族，导致对新型伪造手段的泛化能力差。GLID摒弃了依赖大量训练数据的思路，转而利用图像的几何特性。具体而言，该方法将单个图像的补丁令牌视为嵌入在高维空间中的流形采样，并在冻结视觉Transformer（ViT）的多个深度层中估计其局部内在维度（LID）。由此产生的12维信号无需额外训练，通过一个置信度门控机制注入到微调检测器中，该门控的强度仅基于分布内数据校准。在16轴跨生成器基准测试中，GLID取得了0.805的平均AUC，在所有重新训练的最新基线中排名第一，且在所有轴上从未显著落后于最强基线。它使得生成轴（即伪造图像）的AUC提升了0.084，而重演轴（如面部动作迁移）仅下降了0.005。论文还揭示了两个经验定律：（1）伪造图片会在特定深度扭曲令牌流形：GAN伪迹在最后一层达到峰值，扩散伪迹在中间网络层达到峰值，且该模式在四种骨干网络、三种维度估计器和非人脸图像中持续存在；（2）微调仅在训练数据覆盖的位置吸收辅助增益：注入1%的目标家族图像会抹去0.100的增益提升，因此几何信号在数据不可用的情况下至关重要。此外，该确定性信号将准确率的跨种子方差降低了5.5倍。代码、预注册分析门控和逐图像评分均随论文公开。

本文针对大规模生成模型快速发展导致的高度逼真AI生成图像泛滥问题，提出了一种新的通用合成图像检测框架RNSIDNet。现有取证网络通常依赖单一域表示和传统二分类优化，导致跨模型泛化能力差且对真实世界退化（如JPEG压缩、缩放等）鲁棒性不足。为了克服这些局限，作者设计了双分支架构：一方面，使用经注意力优化的CLIP骨干网络提取全局RGB语义特征；另一方面，利用Bayar卷积捕获高频噪声伪影，并通过特征级线性调制（FiLM）模块使RGB语义动态调制噪声特征。为了进一步增强表示判别性，提出了困难样本感知对比学习（HSCL）策略，通过显式惩罚难分类样本来重塑潜在特征空间，最大化真实图像与合成图像之间的判别边际。在8个公开基准数据集上的大量实验表明，该方法在泛化能力、鲁棒性和计算效率方面均达到最先进水平。论文提供了代码和数据集链接。该研究对数字图像取证、社交媒体虚假内容治理等领域具有重要参考价值。

本文研究了在线社交网络中用户对AI生成的个人资料（即深度伪造资料）的信任程度。研究通过设计实验，让参与者评估真实与AI生成的个人资料的可信度，发现用户难以区分真实与伪造资料，且对伪造资料的信任度较高。论文提出了一个名为DeepPhish的框架，用于生成高度逼真的伪造社交资料，并分析了用户信任的影响因素。实验结果表明，用户对个人资料的信任主要基于资料中的视觉元素（如头像）和文本信息（如个人简介），而AI生成的资料在这些方面已经达到与真实资料难以区分的水平。研究还发现，用户的信任决策受到其社交媒体使用经验的影响，但总体趋势是容易被伪造资料欺骗。这项工作揭示了社交工程攻击的新趋势，即利用AI生成虚假个人资料进行钓鱼攻击，并强调了提高用户警觉性和开发检测工具的必要性。

本文针对深度伪造语音检测器的可解释性不足问题，提出了一种基于积分梯度（Integrated Gradients）和时间对齐自监督表示（如WavLM）的音频原生可解释性流水线。该方法能够定位检测器在时间维度上的决策证据，并语义化解释最重要的声学线索。作者将方法应用于三种基于WavLM的检测器（AASIST、CA-MHFA、SLS），并在ASVspoof 5数据集上进行分析。通过人工标注最高归因区域，发现各检测器依赖不同的线索：AASIST强调非语音/环境线索，CA-MHFA关注局部音素伪影，SLS依赖词边界和频谱完整性。进一步通过因果掩码验证，去除主要线索后检测性能显著下降，证实了归因分析的有效性。该研究为理解深度伪造语音检测器的内部机制提供了可解释性工具，有助于改进检测器的鲁棒性和可信度。

该论文对39个深度伪造语音数据集进行了系统性的数据集级审计，分析了可访问性、文档质量、人口统计与语言覆盖范围、数据集规模以及底层真实语音来源等关键属性。研究发现两个重要问题：首先，绝大多数数据集缺乏人口统计元数据（如年龄、种族、国籍等），仅有少数包含性别或语言标签，导致无法进行有意义的子组分析，公平性评估几乎不可行；其次，不同数据集之间底层真实语音语料库存在大量重叠，这种重叠会损害跨数据集评估的有效性，并可能导致泛化性能被夸大。研究揭示了当前深度伪造语音检测领域的系统性数据缺陷，强调了构建更透明、更平衡、更高质量数据集的重要性，并为未来研究方向提供了指导。适合语音安全、AI安全及公平性研究者阅读。

该论文聚焦于深度伪造图像检测器在对抗攻击下的鲁棒性问题。尽管近年来提升检测器对未见生成模型泛化能力的研究取得进展，但检测器仍易受对抗样本攻击。作者复现了Abdullah等人（IEEE SP 2024）对八种检测器的评估，并额外测试了七种最先进检测器，均发现攻击下性能显著下降。为此，论文提出一个不依赖对抗训练的统一框架，融合三种互补设计：1）基于离散余弦变换（DCT）的四阶矩池化，在频域建立高阶统计建模；2）从噪声残差中提取内容无关特征；3）通过分块语义破坏实现跨场景泛化。核心洞察是对抗攻击主要利用低阶统计和视觉语义，而高阶残差-频率特征（尤其是峰度）几乎不受约束。大量实验表明，该方法在六种不同架构的检测器上持续提升鲁棒性，在现有对抗基准测试中将召回率退化降低最多88.9%，并将最佳检测器（Yang等人，IEEE CVPR 2025）的攻击下准确率从81.9%提升至97.15%。该工作为提升深度伪造检测对抗鲁棒性提供了通用的、架构无关的解决思路。

本文介绍了 DeepFake Forensics AI，一个统一的多模态深度伪造检测与区块链锚定证据管理平台。随着 AI 生成合成媒体的激增，数字证据在法证和法律场景中的完整性面临严重威胁。现有的深度伪造检测系统通常仅针对单一模态，且缺乏防篡改的证据保存机制。该平台从零训练了四个独立的神经网络：基于 EfficientNet-B4 的图像检测器（AUC=0.9868）、基于双向 LSTM 的视频检测器（AUC=0.9628）、基于 ECAPA-TDNN 的音频检测器（EER=18.63%），以及一个新颖的 GAN 指纹识别模块（准确率 99.88%），用于识别伪造图像背后的生成架构。证据文件经 SHA-256 哈希后，通过 Pinata 存储在 IPFS 上，并经由基于 Solidity 的智能合约在以太坊区块链上注册，实现了基于角色的访问控制。平台提供 React 前端和 FastAPI 后端，适用于法证和法律工作流程。据作者所知，这是首个将多模态深度伪造检测与基于区块链的链上证据管理相结合的系统。

本文是一篇立场论文，系统反思了过去近十年机器学习领域在深度伪造检测上的研究方向与实际威胁之间的错位。自2017-2019年起，该领域的研究主要围绕公共人物的换脸和说话头操控展开，担忧大规模虚假信息传播和视频证据欺诈。然而，作者通过统计2022-2026年间的深度伪造事件发现，实际造成危害的主要是三类：同龄人生成的非自愿亲密图像（NCII）、针对家庭和金融从业者的语音克隆诈骗电话，以及情感操纵欺诈。预测中的大规模公共人物深度伪造灾难在2024年全球信息环境中并未发生，尽管该领域已投入大量准备。研究力量、基准测试和检测方法仍然集中在过时的威胁模型上。本文的核心主张是，这种错位已成为阻碍真实世界深度伪造防御的主要瓶颈，而非模型能力不足。作者呼吁机器学习研究社区应大幅调整研究议程，转向实际增长的危害类别。论文通过实证统计展示了研究投入与危害分布的不匹配，分析了错位持续存在的结构性原因，并为三类防御不足的危害类别提出了具体的技术研究议程（如：面向NCII的细粒度检测、面向诈骗语音的鲁棒鉴别、面向情感操纵的多模态分析）。适合安全研究人员、政策制定者和AI伦理从业者阅读。

该论文针对合成人脸检测（即检测由深度生成模型生成的伪造人脸图像）中两个关键问题：模型对未知分布图像（OOD）的过度自信，以及需要大量高质量标注数据导致实用性受限。作者提出了一种名为EMSFD（基于证据决策建模与不确定性驱动主动学习的合成人脸检测方法）的框架。核心创新点包括：1）利用狄利克雷分布对类证据进行建模，将模型不确定性显式纳入预测过程，从而有效缓解Softmax激活函数带来的过度自信问题，提升对未知样本的检测可靠性；2）在训练阶段，利用估计的不确定性从未标注池中优先筛选信息量大的样本进行主动学习标注，降低标注成本并提升模型泛化能力。实验在多个合成人脸数据集上进行，结果表明EMSFD在检测准确率上相比现有最先进方法提升了15%，同时具有更好的可解释性和泛化性。代码已开源。该研究适合关注深度伪造检测、不确定性估计、主动学习以及模型可靠性的研究人员和工程师阅读。