本文针对实时深度伪造（real-time deepfake）驱动的语音与视频冒充攻击，提出了一套名为 DF-CAPTCHA 的主动防御框架。研究背景是：随着实时换脸与语音克隆模型推理延迟不断降低，攻击者已能在通话过程中实时伪装成他人身份，用于 CEO 诈骗、商务邮件诈骗（BEC）、客服冒充等社会工程场景。传统的被动检测思路是搜寻合成媒体留下的伪影（artifacts）或统计特征，但论文指出这类方法在实时通话中既容易被新的生成模型规避，也超出了普通人的辨别能力——用户研究显示，人在无辅助条件下很难把实时深度伪造与真实音视频区分开。 核心方法上，作者把 CAPTCHA（人机区分验证）的思想迁移到实时通话场景：不再被动找破绽，而是由系统主动向呼叫方下发简单、自然的挑战-应答任务（challenge-response），这类任务对真人来说容易完成，但对当前的实时深度伪造系统来说难以在通话时延约束下生成足够可信的响应。验证环节综合四项准则：真实性（合成痕迹与自然度）、身份一致性（响应是否与声称身份相符）、任务完成度（是否真正按要求完成交互任务）、以及响应时间（时延分布是否符合真人特征）。四项准则的组合用于降低单一信号被绕过或误判的风险。 评估方面，论文在音频与视频两种模态上分别开展用户研究与针对真实实时深度伪造模型的实验。结果显示：人类自身的辨别表现较差；而 DF-CAPTCHA 相比被动检测方法显著提升识别性能，并在两种模态上均达到较高准确率。作者据此认为，基于主动挑战的验证是应对下一代实时深伪社会工程攻击的一条实用且鲁棒的防御路径。本文适合从事身份验证、反欺诈、呼叫中心与视频会议安全、以及深度伪造检测方向的研究者与工程团队阅读。

语音合成技术的快速发展使深度伪造音频达到高度逼真的水平，对语音身份验证和数字取证构成日益严峻的威胁。早期研究曾报道人类对深度伪造语音的检测准确率可达70%-80%，但这些研究主要基于较老的合成器，难以反映当前生成语音的真实攻击能力。本研究针对这一差距，选取了分别于2019年（RTVC）、2022年（YourTTS）和2024年（ElevenLabs）发布的三种代表性语音合成工具，邀请82名IT专业人员参与听辨实验，同时使用六个预训练的深度伪造检测器对相同材料进行基准测试，以系统评估人类和自动检测器对现代合成语音的识别能力。实验涵盖完全合成语音（全文伪造）和部分伪造（仅篡改语句中的某一个句子）两种场景。结果显示：对于完全合成语音，人类检测的F1分数从RTVC和YourTTS的约90%急剧下降到ElevenLabs的48%，且参与者事先已被明确警告音频中可能存在深度伪造；对于部分伪造，严格判断的准确率仅为9%，听众有77%的概率将合成句子误判为真实语音。研究进一步发现，人类与自动检测器的错误模式互补，两者均无法可靠定位短篡改片段。此外，听众在识别合成语音时，越来越多地将真实语音误标记为伪造，导致对未操纵音频的信任度不断下降。这些发现表明，人类感知对于现代合成器和部分伪造条件已不可靠，必须依靠程序化验证、来源证明、水印技术和片段级检测等多层次防御手段来应对。该研究为语音伪造检测领域提供了新的实证数据，对设计和评估鲁棒的音频取证系统具有重要参考价值。

该论文是一篇来自工业界与学术界合作的经验报告，基于与商业说话人识别厂商 Phonexia 为期三年的合作，深入探讨了深度伪造语音检测（deepfake speech detection）从研究走向实际部署时面临的“最后一公里”障碍。尽管当前许多公开基准在域内评估中报告了低于 1% 的错误率，但在遇到未见过的攻击方式、信道失配以及数据分布漂移时，模型性能会显著下降。论文没有提出新的检测模型，而是系统性梳理了三个关键壁垒：第一，许多公开基准数据集不包含商业用途许可，导致工业界无法合法使用这些数据训练或评估模型；第二，真实世界的输入并非四秒的干净片段，而是经过编解码器降质、长度较长、有时甚至只有部分语音是合成的录音，这与研究环境中的理想条件差异巨大；第三，即便系统经过校准并输出如 2.5 这样的对数似然比分数，客户和非专家用户也无法理解该分数对其实际决策意味着什么，缺乏可解释性和可操作性。基于这些发现，作者提出了具体的研究与协作建议：建立可在商业环境中使用的数据集共享标准、设计更贴近真实部署场景的基准测试，以及开发能让非专家直接采取行动的评分表达方式。论文强调这些观察来自单一项目，其普遍性仍需在其他环境中进一步验证。该研究对于从事语音取证、内容审核、身份验证等工作的安全工程师和研究人员具有重要参考价值。

该论文以真实世界环境为背景，系统研究了基于深度学习的语音合成攻击（即语音深度伪造）对自动说话人识别/验证系统的威胁。研究首先指出了当前语音合成技术（如端到端生成模型、神经声码器）已能生成高度逼真且带有人类自然韵律的语音，这为攻击者提供了低成本、易获取的工具。作者通过收集并构建包含多种真实说话人、不同录音设备和嘈杂环境条件的语音数据集，模拟攻击者仅使用公开可得或可自行训练的合成模型，对商业及开源说话人验证系统进行黑盒攻击。实验揭示了这些系统在真实世界条件下对合成语音的脆弱性，攻击成功率往往远超随机猜测，且部分系统在掌握少量目标说话人样本后更容易被绕过。论文还分析了影响攻击效果的因素，如合成语音的时长、内容长度、背景噪声、编解码压缩等。更进一步，作者探讨了防御措施，包括基于语音自然度检测、频谱异常检测、以及多模态验证等方法，但指出现有防御在对抗未知合成模型时仍存在局限。该研究的核心贡献在于首次在接近真实的部署环境中全面评估语音合成攻击的威胁，证明其并非实验室中的概念验证，而是需要工业界重视的实际安全问题。适合语音安全、生物识别、AI安全与隐私保护领域的研究人员、SOC分析师以及语音认证系统的开发与运维人员阅读，以便理解攻击面并设计更具鲁棒性的防护方案。

近年来，视频生成模型的快速进步显著加剧了深度伪造（deepfake）威胁，然而现有的深度伪造视频检测基准仍不成熟，特别是图像级检测器在视频域中的有效性尚未得到系统性评估。为了填补这一空白，本文提出了FakeI2V-Bench基准，专门用于在具有挑战性的场景下评估最先进的视频级深度伪造检测器，并系统评估图像级检测器在视频域的表现。该基准包含97,548个视频，内容由最新且强大的生成模型生成，覆盖了更广泛的类别，确保了评估的全面性和挑战性。利用该数据集，作者对8种视频级检测器和12种代表性图像级检测器进行了大规模系统评估。实验结果显示，表现最好的图像级检测器达到80.16%的AUC，略微超过了最强的视频级检测器（79.99% AUC），这表明图像级检测器在视频域中仍然具有竞争力。此外，作者提出了IV-Bridge框架，一种通用方法，用于将图像级深度伪造检测器的能力扩展到视频域。IV-Bridge使用随机森林模型，结合统计特征来聚合帧级预测，使得11种图像级检测器的性能超过了最先进的视频级方法，其中最佳变体达到了93.80% AUC。总体而言，FakeI2V-Bench为深度伪造视频检测建立了严格的基准，并引入了一种扩展图像级检测器到视频域的新途径，为未来研究提供了新的洞察和方向。代码和数据已公开在GitHub。

该论文提出了一种针对语音认证系统的普遍性攻击方法，仅需受害者的单张面部照片即可成功绕过语音认证。研究动机在于当前语音认证系统虽然被广泛用于银行、智能设备等场景，但通常仅依赖声纹特征进行身份验证，忽略了语音生成过程与面部特征之间的内在关联。作者揭示了语音与面部之间存在的强相关性——人的面部结构（如口腔、声道形状）会影响其发音特征，因此从一张静态面部图像中即可推断出可用于生成或伪造目标语音的声学特征。论文核心方法包括：构建语音-面部多模态关联模型，利用深度学习从单张面部图像预测相应的语音特征（如梅尔频谱）；随后将预测特征用于语音合成或转换，生成与目标声纹高度相似的伪造语音样本。实验在多个主流语音认证系统和公开声纹数据集上进行了评估，证实了攻击的高成功率和低门槛。作者还讨论了防御方向，强调语音认证系统必须结合多模态信息验证、活体检测以及对抗性鲁棒训练。该研究适合语音安全研究者、认证系统开发者及安全评估人员阅读，对生物识别安全与多模态信息泄露问题具有重要启示。

生成对抗网络（GAN）在合成逼真图像方面取得了显著进展，甚至能够欺骗人类观察者。为应对深度伪造带来的安全风险，已有多种检测方法通过识别生成过程中残留的图像伪影来区分真实与合成内容。然而，已有反攻击研究揭示了这些检测方法的局限性，但多数反攻击需要满足特定条件，例如需要与检测模型进行交互或直接调整生成器。本文提出了一类新颖且简单的反攻击方法，突破这些条件限制。作者发现，攻击者可以直接在生成图像的频域中去除指示性伪影，即所谓的“GAN指纹”。他们系统探索了多种指纹去除方式，从简单的对高频分量进行滤波，到更为精细的针对特定频率峰值的清除。通过在多种检测方法、GAN架构和数据集上的实验评估，作者证明了这种攻击能够有效移除GAN指纹，从而使生成的图像成功规避检测。这项研究不仅揭示了一种高效且易于实施的攻击途径，还指出了当前深度伪造检测技术的一个关键盲区，即过度依赖生成伪影的检测策略存在根本性脆弱性。该工作对数字取证、内容真实性验证以及社交媒体平台的内容安全治理具有重要的警示意义，强调了需要发展更具鲁棒性的检测范式，例如结合语义信息、生成模型先验或跨模型一致性分析。对于安全从业者而言，理解此类攻击有助于重新评估现有检测体系的可靠性，并为设计下一代防御措施提供参考。本摘要基于论文摘要生成，未涉及具体攻击实现细节。

本文是团队"Go To Germany"参加ImageCLEF 2026深度伪造检测与生成任务的系统描述，并在官方任务之外额外开展了基于净化的对抗检测研究。在图像生成任务中，作者使用FLUX.1-dev与PuLID进行身份保持的人脸合成，并设计了一种针对12个检测器同时进行的多模型PGD对抗攻击，该攻击集成了DiffJPEG可微压缩环、MI/DI/EoT多种梯度优化策略、自适应权重以及两阶段热启动机制。该攻击使生成图像对组织方检测器逃脱率达90%，对参赛方检测器逃脱率57.6%，最终生成得分为0.4170。在图像检测任务中，作者组合了两种互补检测器：SigLIP+DINOv2用于识别AI生成图像，GenD-DINOv3用于识别人脸操作，通过最大概率集成，在基线深度伪造上达到99.4%的准确率，但在真实图像上产生较高的假阳性率，最终检测得分为0.6986。在官方提交之外，作者自主探索了基于净化的对抗检测方法，比较了三种检测信号家族，并基于共享CLIP ViT-L/14骨干的六个检测器进行了实验。结果表明，在采用中值滤波（median-3）净化后，通过EFFORT检测器使用的原始|Δlogit|（净化前后logit差异绝对值）能够在四种对抗源类型上将对抗输入与干净输入分离，AUROC达到0.81-0.98。这一发现反驳了简单的骨干保留假说（即净化会破坏对抗扰动，从而暴露对抗样本），并揭示了在JPEG质量因子Q70处存在一个尖锐的质量悬崖，当质量低于该阈值时，检测信号会突然崩溃。该研究为深度伪造检测与对抗鲁棒性提供了实证洞察。

本文提出了一种多模态深度伪造新闻检测框架，旨在通过同时分析视频中的音频和视觉线索来鉴别视频内容的真实性。该框架首先从唇部运动（使用LipNet编码）、音频内容（使用DeepSpeech2编码）和视频帧（通过BlazeFace检测人脸并用ResNet18提取视觉特征）中提取特征。然后将这些特征向量拼接成统一的视频表示，并使用集成分类器（随机森林RF、多层感知器MLP、长短期记忆网络LSTM）进行真伪判别。在FakeAVCeleb数据集上的实验表明，该方法在增强音频特征的情况下达到了94%的准确率，优于现有的多模态集成基线。研究证实了该框架在深度伪造新闻检测中的鲁棒性和实际应用潜力。

本文提出了一种名为GLID（Gated Local Intrinsic Dimension）的人脸伪造检测方法，旨在解决现有基于微调基础模型的检测器对未见过的生成器家族（如GAN或扩散模型生成的图像）检测能力不足的盲点问题。传统检测器在训练时仅接触部分生成器家族，导致对新型伪造手段的泛化能力差。GLID摒弃了依赖大量训练数据的思路，转而利用图像的几何特性。具体而言，该方法将单个图像的补丁令牌视为嵌入在高维空间中的流形采样，并在冻结视觉Transformer（ViT）的多个深度层中估计其局部内在维度（LID）。由此产生的12维信号无需额外训练，通过一个置信度门控机制注入到微调检测器中，该门控的强度仅基于分布内数据校准。在16轴跨生成器基准测试中，GLID取得了0.805的平均AUC，在所有重新训练的最新基线中排名第一，且在所有轴上从未显著落后于最强基线。它使得生成轴（即伪造图像）的AUC提升了0.084，而重演轴（如面部动作迁移）仅下降了0.005。论文还揭示了两个经验定律：（1）伪造图片会在特定深度扭曲令牌流形：GAN伪迹在最后一层达到峰值，扩散伪迹在中间网络层达到峰值，且该模式在四种骨干网络、三种维度估计器和非人脸图像中持续存在；（2）微调仅在训练数据覆盖的位置吸收辅助增益：注入1%的目标家族图像会抹去0.100的增益提升，因此几何信号在数据不可用的情况下至关重要。此外，该确定性信号将准确率的跨种子方差降低了5.5倍。代码、预注册分析门控和逐图像评分均随论文公开。

本文针对大规模生成模型快速发展导致的高度逼真AI生成图像泛滥问题，提出了一种新的通用合成图像检测框架RNSIDNet。现有取证网络通常依赖单一域表示和传统二分类优化，导致跨模型泛化能力差且对真实世界退化（如JPEG压缩、缩放等）鲁棒性不足。为了克服这些局限，作者设计了双分支架构：一方面，使用经注意力优化的CLIP骨干网络提取全局RGB语义特征；另一方面，利用Bayar卷积捕获高频噪声伪影，并通过特征级线性调制（FiLM）模块使RGB语义动态调制噪声特征。为了进一步增强表示判别性，提出了困难样本感知对比学习（HSCL）策略，通过显式惩罚难分类样本来重塑潜在特征空间，最大化真实图像与合成图像之间的判别边际。在8个公开基准数据集上的大量实验表明，该方法在泛化能力、鲁棒性和计算效率方面均达到最先进水平。论文提供了代码和数据集链接。该研究对数字图像取证、社交媒体虚假内容治理等领域具有重要参考价值。

本文研究了在线社交网络中用户对AI生成的个人资料（即深度伪造资料）的信任程度。研究通过设计实验，让参与者评估真实与AI生成的个人资料的可信度，发现用户难以区分真实与伪造资料，且对伪造资料的信任度较高。论文提出了一个名为DeepPhish的框架，用于生成高度逼真的伪造社交资料，并分析了用户信任的影响因素。实验结果表明，用户对个人资料的信任主要基于资料中的视觉元素（如头像）和文本信息（如个人简介），而AI生成的资料在这些方面已经达到与真实资料难以区分的水平。研究还发现，用户的信任决策受到其社交媒体使用经验的影响，但总体趋势是容易被伪造资料欺骗。这项工作揭示了社交工程攻击的新趋势，即利用AI生成虚假个人资料进行钓鱼攻击，并强调了提高用户警觉性和开发检测工具的必要性。

本文针对深度伪造语音检测器的可解释性不足问题，提出了一种基于积分梯度（Integrated Gradients）和时间对齐自监督表示（如WavLM）的音频原生可解释性流水线。该方法能够定位检测器在时间维度上的决策证据，并语义化解释最重要的声学线索。作者将方法应用于三种基于WavLM的检测器（AASIST、CA-MHFA、SLS），并在ASVspoof 5数据集上进行分析。通过人工标注最高归因区域，发现各检测器依赖不同的线索：AASIST强调非语音/环境线索，CA-MHFA关注局部音素伪影，SLS依赖词边界和频谱完整性。进一步通过因果掩码验证，去除主要线索后检测性能显著下降，证实了归因分析的有效性。该研究为理解深度伪造语音检测器的内部机制提供了可解释性工具，有助于改进检测器的鲁棒性和可信度。

该论文对39个深度伪造语音数据集进行了系统性的数据集级审计，分析了可访问性、文档质量、人口统计与语言覆盖范围、数据集规模以及底层真实语音来源等关键属性。研究发现两个重要问题：首先，绝大多数数据集缺乏人口统计元数据（如年龄、种族、国籍等），仅有少数包含性别或语言标签，导致无法进行有意义的子组分析，公平性评估几乎不可行；其次，不同数据集之间底层真实语音语料库存在大量重叠，这种重叠会损害跨数据集评估的有效性，并可能导致泛化性能被夸大。研究揭示了当前深度伪造语音检测领域的系统性数据缺陷，强调了构建更透明、更平衡、更高质量数据集的重要性，并为未来研究方向提供了指导。适合语音安全、AI安全及公平性研究者阅读。

该论文聚焦于深度伪造图像检测器在对抗攻击下的鲁棒性问题。尽管近年来提升检测器对未见生成模型泛化能力的研究取得进展，但检测器仍易受对抗样本攻击。作者复现了Abdullah等人（IEEE SP 2024）对八种检测器的评估，并额外测试了七种最先进检测器，均发现攻击下性能显著下降。为此，论文提出一个不依赖对抗训练的统一框架，融合三种互补设计：1）基于离散余弦变换（DCT）的四阶矩池化，在频域建立高阶统计建模；2）从噪声残差中提取内容无关特征；3）通过分块语义破坏实现跨场景泛化。核心洞察是对抗攻击主要利用低阶统计和视觉语义，而高阶残差-频率特征（尤其是峰度）几乎不受约束。大量实验表明，该方法在六种不同架构的检测器上持续提升鲁棒性，在现有对抗基准测试中将召回率退化降低最多88.9%，并将最佳检测器（Yang等人，IEEE CVPR 2025）的攻击下准确率从81.9%提升至97.15%。该工作为提升深度伪造检测对抗鲁棒性提供了通用的、架构无关的解决思路。

本文介绍了 DeepFake Forensics AI，一个统一的多模态深度伪造检测与区块链锚定证据管理平台。随着 AI 生成合成媒体的激增，数字证据在法证和法律场景中的完整性面临严重威胁。现有的深度伪造检测系统通常仅针对单一模态，且缺乏防篡改的证据保存机制。该平台从零训练了四个独立的神经网络：基于 EfficientNet-B4 的图像检测器（AUC=0.9868）、基于双向 LSTM 的视频检测器（AUC=0.9628）、基于 ECAPA-TDNN 的音频检测器（EER=18.63%），以及一个新颖的 GAN 指纹识别模块（准确率 99.88%），用于识别伪造图像背后的生成架构。证据文件经 SHA-256 哈希后，通过 Pinata 存储在 IPFS 上，并经由基于 Solidity 的智能合约在以太坊区块链上注册，实现了基于角色的访问控制。平台提供 React 前端和 FastAPI 后端，适用于法证和法律工作流程。据作者所知，这是首个将多模态深度伪造检测与基于区块链的链上证据管理相结合的系统。

本文是一篇立场论文，系统反思了过去近十年机器学习领域在深度伪造检测上的研究方向与实际威胁之间的错位。自2017-2019年起，该领域的研究主要围绕公共人物的换脸和说话头操控展开，担忧大规模虚假信息传播和视频证据欺诈。然而，作者通过统计2022-2026年间的深度伪造事件发现，实际造成危害的主要是三类：同龄人生成的非自愿亲密图像（NCII）、针对家庭和金融从业者的语音克隆诈骗电话，以及情感操纵欺诈。预测中的大规模公共人物深度伪造灾难在2024年全球信息环境中并未发生，尽管该领域已投入大量准备。研究力量、基准测试和检测方法仍然集中在过时的威胁模型上。本文的核心主张是，这种错位已成为阻碍真实世界深度伪造防御的主要瓶颈，而非模型能力不足。作者呼吁机器学习研究社区应大幅调整研究议程，转向实际增长的危害类别。论文通过实证统计展示了研究投入与危害分布的不匹配，分析了错位持续存在的结构性原因，并为三类防御不足的危害类别提出了具体的技术研究议程（如：面向NCII的细粒度检测、面向诈骗语音的鲁棒鉴别、面向情感操纵的多模态分析）。适合安全研究人员、政策制定者和AI伦理从业者阅读。

该论文针对合成人脸检测（即检测由深度生成模型生成的伪造人脸图像）中两个关键问题：模型对未知分布图像（OOD）的过度自信，以及需要大量高质量标注数据导致实用性受限。作者提出了一种名为EMSFD（基于证据决策建模与不确定性驱动主动学习的合成人脸检测方法）的框架。核心创新点包括：1）利用狄利克雷分布对类证据进行建模，将模型不确定性显式纳入预测过程，从而有效缓解Softmax激活函数带来的过度自信问题，提升对未知样本的检测可靠性；2）在训练阶段，利用估计的不确定性从未标注池中优先筛选信息量大的样本进行主动学习标注，降低标注成本并提升模型泛化能力。实验在多个合成人脸数据集上进行，结果表明EMSFD在检测准确率上相比现有最先进方法提升了15%，同时具有更好的可解释性和泛化性。代码已开源。该研究适合关注深度伪造检测、不确定性估计、主动学习以及模型可靠性的研究人员和工程师阅读。