#deepfake-detection

共收录 17 条相关安全情报。

← 返回所有主题
👥 作者: Hao Chen

该论文提出 MAD-Guard,一个针对封闭式多模态取证任务的输出-决策接口受控研究框架,核心问题是:当多模态表示已经计算完成后,对于“输入复杂度高、输出熵低”的封闭取证判定(如真伪二分类),是否仍有必要进行自回归生成?作者在匹配的 Qwen3-VL-8B 骨干上,使用 2,400 条 FakeClue 训练样本与 LoRA(r=16、α=32)微调,在华为昇腾 910C NPU 上系统比较了一组递进的决策接口:AR-SFT(自回归生成)→ Logit Slice(词表切片)→ Binary Direct Head(二分类直接头)→ +choice → +act → CLM-Head,并把单次推理延迟分解为骨干表示(53.12 ms)、151,643 维词表投影(+85.04 ms,累计 138.16 ms)以及自回归解码(+248.26 ms,累计 386.42 ms)。结果显示,在 1 对 1 二分类监督(BCE 损失)下,二分类直接头把延迟降低 2.60×–7.27×(回落到 53.12 ms),校准误差改善 1.88×(ECE 0.0450 对 0.0845),代价是准确率下降 1.80%(93.10% 对 94.90%,ROC-AUC 0.9795 对 0.9871),作者将其归因于放弃了词元先验。若要超过 AR-SFT,可通过多任务归因与不确定性门控(+choice+act:96.44% 准确率、0.9940 ROC-AUC、ECE 0.0187,延迟 53.71 ms),或采用解耦对比头 CLM-Head(保留语义先验而不做词元解码:二分类 96.55%、多任务 96.44%、ECE 0.0166、7 类归因 98.79%,延迟 54.42 ms)。在来自五个基准的 5,000 张样本外图像上,该框架在合成图、伪装图与文档伪造上表现良好(GenImage 96.44%、Chameleon 97.73%、Doc 91.84%),但在压缩人脸篡改上存在明显边界(FF++ ROC-AUC 仅 0.5913)。

💡 推荐理由: 为多模态取证与内容审核的工程落地提供可量化证据:在输出熵低的封闭判决任务上,直接决策头可将延迟降低 2.6–7.3 倍并改善校准,且给出昇腾 NPU 实测数据;同时明确指出压缩人脸篡改仍是薄弱边界。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 3.5
Conf: 50%
👥 作者: Xander Staelens, Albéric Loos, Bert Ramlot, Hannes Mareen, Peter Lambert, Glenn Van Wallendael

该论文关注新视角合成(Novel View Synthesis, NVS)模型生成图像的多视角几何一致性问题,并将其引入多媒体取证场景。NVS 模型能够从不同视点生成同一场景的逼真新视图,但这些生成视图彼此之间往往并不满足严格的几何一致性,这一特性此前主要被用于评价 NVS 模型质量,而在多媒体取证(尤其是跨大基线图像对中定位几何不一致区域)中的价值几乎未被探索。为填补该空白,作者首先构建并公开了 DeformView——一个面向宽基线多视角场景的数据集,提供像素级几何不一致标注,为训练与评测取证模型提供监督信号。基于该数据集,作者系统评测了现有最先进的 MV 一致性评分方法,发现这些面向 NVS 评价设计的方法在"几何不一致定位"这一取证任务上迁移效果很差,说明评价指标与取证定位目标之间存在明显差距。针对该问题,作者提出 DEFECt3R——一个轻量级、基于学习的分类器,利用跨视角特征关系在像素级别定位几何不一致区域。其关键设计在于引入显式监督,包括来自几何一致但存在形变的视图所构成的困难负样本,从而在提升定位性能的同时显著降低误报率。消融实验进一步表明,特征表示方式与跨视角对应关系质量都对最终定位性能有实质贡献。整体上,该工作论证了多视角几何一致性是多媒体取证中一个前景广阔但尚待深入挖掘的信号,并为宽基线多视角图像对的几何不一致定位建立了基准数据集与基线方法。代码与数据集已在 GitHub 公开(IDLabMedia/DeformView-DEFECt3R)。

💡 推荐理由: 随着 NVS/生成式图像在多视角内容中普及,伪造图像不再局限于单张篡改,跨视角几何不一致可作为新的取证线索。该工作提供了公开数据集与像素级定位基线,对深度伪造检测、图像真实性核验和内容来源鉴别有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Magdalena Pasternak, Malvika Jadhav, Palavi V. Bhole, Aviva Smith, Elaina Trapatsos, Vincent Bindschaedler, Roshan Peiris, Ersin Uzun, Patrick Traynor, Matthew Wright, Kevin R. B. Butler

该论文关注一个长期被安全与隐私研究忽视的交叉问题:音视频深伪(deepfake)的检测效果如何取决于人的感知能力,尤其是聋人与重听群体(d/Deaf and hard-of-hearing, DHH)。作者指出,音视频深伪大幅降低了欺诈、冒充与虚假信息的成本,但一次深伪攻击能否成功,最终仍取决于人类接收者能否识破;而识破往往需要同时整合听觉与视觉线索,这对不同听力能力的用户天然不对等。为此,研究团队开展了一项线下、混合方法的人因研究,共招募 80 名参与者,分为四组:31 名听力正常者(HP)、15 名重听者(HoH)、17 名聋人、17 名人工耳蜗(CI)使用者。每位参与者需对 30 个短视频/音频片段判断真伪,片段中的篡改类型覆盖文本转语音(TTS)、语音转换(voice conversion)、唇形同步(lip-sync)与换脸(face-swap),既有纯音频篡改、纯视觉篡改,也有视听联合篡改。 核心量化结果有三点。第一,整体准确率上 DHH 群体显著低于听力正常者(76.4% vs. 88.0%,p<.001),且差距的主要来源不是漏检,而是误报——DHH 参与者更倾向把真实片段判为被篡改(假阳性率 29.7% vs. 11.2%)。第二,差距强烈依赖于被篡改的通道:在纯音频篡改条件下,HoH 参与者与 HP 几乎持平(90.0% vs. 90.3%),CI 使用者为 79.4%,而聋人参与者仅 41.2%,说明听觉线索缺失会直接导致该通道检测能力塌陷。第三,当片段包含视听联合篡改时,各组准确率反而收敛到 84%–87% 区间,但仍随具体篡改方法(TTS、语音转换、换脸、唇形同步)而变化,暗示视觉线索在一定程度上补偿了听觉缺口,补偿程度则因操纵方式而异。 论文的主要贡献在于:首次系统性地刻画深伪对不同听力能力人群的差异化影响,量化了误报层面的不对称风险,并据此提出安全防御与检测工具应当具备可访问性与可定制性,而不是默认所有用户都具有完整的视听感知能力。适合人群包括:深伪检测与内容真实性方向的研究者、从事可用安全(usable security)与人因安全的安全工程师、以及负责无障碍与信任安全产品的设计与合规人员。

💡 推荐理由: 深伪防御长期只优化模型指标,忽视终端用户的感知差异。该研究用 80 人实验证明 DHH 群体误报率接近听力正常者的三倍,纯音频篡改下聋人准确率仅 41.2%。这意味着现有检测与告警设计对部分用户群体实际失效,属于被忽略的信任与安全风险面。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Xianlong Li, Pietro Bongini, Niccoló Pancino, Marco Blanchini, Benedetta Tondi, Mauro Barni

该论文研究开放世界(open-world)条件下的图像取证问题:篡改类型涵盖完全合成图像、局部编辑、拼接与换脸/替换等,而现有取证检测器大多只针对单一篡改族,难以覆盖真实场景。作者提出并系统剖析了一个免训练(training-free)的智能体(agentic)框架:以多个专业检测器作为工具,引入逐检测器分诊(triage)、提示工程(prompting)与冲突感知的证据仲裁(conflict-aware evidence arbitration),并由多模态大模型担任最终裁决者。为厘清究竟是哪些组件在真正驱动性能、以及这些收益能否在分布漂移下保持,作者在六种框架配置与三个多模态大模型骨干上,分别于分布内与分布外数据上进行了消融式评估,重点考察分诊、提示与推理质量三者的作用。主要发现包括:(1)朴素地直接融合多个检测器输出会在真实(未篡改)图像上产生严重误报;(2)分诊与提示能持续提升表现,机制在于过滤不可靠证据并暴露各检测器的适用范围局限;(3)真正的主导因素是推理本身——更强的裁决模型显著优于较弱的裁决模型,且在分布漂移条件下差距进一步放大;(4)最值得注意的是,篡改召回率在几乎所有配置下都接近饱和。作者由此得出结论:开放世界图像取证的核心挑战已不再是从图像中发现篡改痕迹,而是如何校准对专业取证工具的信任、并在相互冲突的证据之间做出可靠仲裁。

💡 推荐理由: 对使用多检测器/多模型做内容真伪判定的团队而言,本文给出明确结论:朴素融合会显著推高真实图像误报,真正的收益来自分诊、提示与裁决模型自身的推理能力,而非检测器数量。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Sivashankar Selvarajan, Piyush Verma, Sumit Kumar, Sharayu N. Deshmukh

该论文对多模态深度伪造检测基础模型 Neural Defend ARCAS 1B 开展系统性基准评测,核心问题是:AI 生成图像技术的演进速度快于针对特定基准的检测器评测节奏,因此单一数据集上的一个分数无法完整刻画模型的泛化能力。作者在不对各基准做针对性参数更新(即零样本、无基准微调)的前提下,跨多个基准族评估该模型,并保留各基准原生的聚合方式,同时补充记录级指标、覆盖率核算与子群体(subgroup)诊断,用以揭示聚合分数掩盖的分布性问题。论文在每一组结果中明确标注所用基准发布版本与评测人群、报告官方指标并描述观察到的错误模式,随后在综合分析中归纳共性规律,但刻意区分“基准原生量”与“合并汇总量”,避免将两类量混淆。跨论文比较被限定在证据对齐的条件下进行;发布版本、人群构成、预处理、训练数据和基准暴露程度上的差异仅作为语境说明,而非排名依据。作者强调,结论只刻画在所评测记录上的表现,不代表普遍可靠性、校准质量、归属判定能力或对未来自适应攻击的鲁棒性。该研究的方法论价值在于:通过把基准原生结果与合并汇总分开呈现,使测试人群、类别平衡与缺失记录覆盖率等差异显性化,从而支撑研究、平台安全和取证复核场景中对检测器结果的合理解读,把可追溯的评测协议条件置于排行榜式结论之上。

💡 推荐理由: 深度伪造检测模型常被以单一基准分数选型,容易高估其泛化能力。该文给出可追溯的评测协议、覆盖率核算与子群体诊断思路,帮助蓝队、平台安全与取证团队避免被排行榜式结论误导。

🎯 建议动作: 研究跟进:将该评测方法论纳入内部模型评估与取证复核流程的参考,并同步给检测器选型与平台安全团队。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Rafael M. Mamede, Pedro C. Neto, Ana F. Sequeira

深度伪造(deepfake)检测器普遍面临基于迁移的黑盒攻击威胁:攻击者在一个本地替代模型(source surrogate)上构造对抗样本,再直接投放到未知的目标检测器(target)上,从而在不接触目标模型的情况下实现绕过。然而,源模型与目标模型之间的“兼容性”如何决定迁移成功率,此前一直缺乏系统认识——已有研究往往只评测少量检测器,且很少把网络结构因素与训练因素(预训练方式、训练数据)分离开来。本文针对这一问题开展受控评测:作者构建了覆盖 60 个检测器、6 种骨干网络、2 种预训练范式、5 种训练数据配置的评测矩阵,并采用两种攻击流程——AutoAttack(AA)与带期望变换的 Carlini–Wagner 攻击(CW–EOT)——进行成对(pairwise)迁移测试。匹配对照结果显示,当源与目标共享完全相同的骨干、同一架构家族、同一预训练范式或同一训练数据时,迁移成功率显著更高;而且这种兼容性结构依赖于攻击方式:AA 下“骨干完全相同”的增益最大,CW–EOT 下“共享预训练”与“共享训练数据”的影响最大。在跨所有非目标源取平均时,AA 的平均攻击成功率(ASR)为 7.21%,CW–EOT 为 19.52%;但若使用一个同时整合两种攻击的多源 oracle,在排除骨干与训练数据完全匹配的组合后,平均 ASR 仍可达 64.48%。这说明仅按单一源模型平均得到的 ASR 会严重低估目标模型的真实脆弱性。作者同时公开了 24 万张对抗扰动图像、完整的成对迁移结果、各检测器配置以及评测代码,并据此提出:源—目标兼容性与源模型选择,应当成为基于迁移的黑盒鲁棒性评测中不可回避的核心维度。

💡 推荐理由: 它提醒防御方:单源平均 ASR 会系统性低估检测器真实脆弱性,鲁棒性评测必须纳入源模型选择与源—目标兼容性维度,否则结论不可信。

🎯 建议动作: 研究跟进,并纳入内部 deepfake 检测器鲁棒性评估流程

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 3.5
Conf: 50%
👥 作者: Justin D. Norman, Sarah Barrington

该论文研究的是 AI 生成音频(俗称音频 deepfake)的检测问题。研究背景是:随着语音合成与音乐生成模型能力快速提升,合成音频大量出现,带来语音克隆诈骗、信息完整性受损、合成音乐版权归属争议等现实风险,因此需要可靠、可部署的真实性判别手段。现有主流方案多为端到端深度神经网络,虽然检测精度不错,但训练成本高、可解释性差、跨域泛化不透明。 作者提出的核心方法是一个“时间相干性(temporal coherence)分析”框架,建立在 CLAP(Contrastive Language-Audio Pretraining)音频-语言对比预训练嵌入之上,覆盖三类内容:人声语音、纯器乐音乐、以及带人声音乐。具体做法是将一段音频切分为多个片段,用 CLAP 提取每个片段的嵌入向量,再计算片段两两之间的余弦相似度,从而得到描述该音频“片段间一致性”的相似度分布;随后从这一分布中抽取统计特征(论文共使用 29 个统计特征),并基于这些特征训练轻量级集成分类器,用于区分真实音频与合成音频。该路线不依赖大规模端到端训练,具备较好的可解释性和更低的计算开销,同时在语音与音乐两个域上都取得了有竞争力的检测性能。 除框架本身,论文还报告了两个值得注意的实证发现:第一是“特征-标签反转”现象,即在 29 个统计特征中有 21 个在训练集与真实野外(in-the-wild)部署数据之间判别方向发生反转,说明训练阶段学到的特征方向在真实环境中可能失效;第二是“语音-音乐方向反转”现象,即熵类特征在语音 deepfake 与音乐 deepfake 上的判别方向相反,说明单一模型或单一阈值难以跨内容类型泛化。 论文的贡献可归纳为:给出一个可解释、计算高效、跨语音与音乐的音频 deepfake 检测框架;并通过对特征方向反转的实证分析,揭示检测器从实验室走向真实部署时普遍存在的域偏移与跨模态校准问题。适合从事媒体取证、内容审核、音频安全与深度伪造检测的研究者和安全工程师阅读。

💡 推荐理由: 音频 deepfake 已可用于诈骗与虚假信息投放,而该研究提示:在实验室表现良好的检测特征,到了真实环境可能出现方向反转、跨域失效。对需要落地音频真实性核验的团队,这是一份关于“检测器会不会在实战中悄悄失效”的重要警示。

🎯 建议动作: 研究跟进:评估将该时间相干性特征流水线纳入内部音频真实性筛查与模型漂移监控能力

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Huiyu Xu, Yaopeng Wang, Zhibo Wang 0001, Zhongjie Ba, Wenxin Liu, Lu Jin, Haiqin Weng, Tao Wei 0002, Kui Ren 0001

本文针对真实世界场景下深度伪造(deepfake)检测面临的质量退化问题展开研究。尽管现有深度伪造检测方法在常用数据集上表现良好,但在实际应用中(如社交媒体平台上的伪造视频和实时直播),由于平台会进行不可预测的压缩等操作,导致视频质量下降,破坏了可辨别的伪造线索,使得检测模型效果显著降低。本文首先系统评估了真实世界质量退化(如JPEG压缩)对检测模型性能和表征能力的影响,发现真实世界的深度伪造样本可以通过常见的退化操作(如JPEG压缩)进行模拟,这些退化后的样本与真实低质量深度伪造在感知上高度相似。其次,作者通过分析不同训练样本顺序下的训练动态,观察到从无退化(简单)样本到重度退化(困难)样本的课程式训练顺序能够增强模型对多样退化的适应能力。基于上述观察,作者提出了一种名为ProFake的新型深度伪造检测方法。ProFake采用渐进式质量自适应学习机制,通过逐步退化、检测并根据模型性能与图像质量为训练样本分配权重,使模型从易到难地聚焦于更具挑战性的样本,从而实现质量自适应的检测。在多个真实世界场景和重度退化场景下的实验表明,ProFake相比现有方法平均检测准确率提升超过10%,在重度退化场景下提升超过30%,同时在高清晰度深度伪造检测上保持相近性能。该工作为提升深度伪造检测在现实部署中的鲁棒性提供了新思路,适合研究深度伪造检测、模型鲁棒性以及多媒体取证的安全研究人员阅读。

💡 推荐理由: 社交媒体平台普遍对视频进行压缩,导致现有深度伪造检测器在真实场景中性能骤降,增加了身份伪造风险。ProFake提出质量自适应学习范式,显著提升低质量场景下的检测鲁棒性,对蓝队防御AI生成内容滥用有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Wei Song, Yuxin Cao, Zhenchang Xing, Liming Zhu, Jin Song Dong, Yulei Sui, Jingling Xue

本文提出了一种名为 SpreadMark 的鲁棒图像水印方法,针对深度伪造检测和来源追踪场景中水印需要抵抗有意移除的问题。作者首先指出现有基于编码器-解码器的水印方案存在一个共同弱点:每个消息比特只占据图像的一小部分区域,因此攻击者只需扰动该比特所在区域即可破坏水印。SpreadMark 借鉴经典的扩频通信原理,将每个比特以密集的伪随机码字形式扩散到整幅图像中,并通过匹配滤波方式从学习到的抑制载体(cover-suppressed)码片表示中恢复水印,同时结合并行卷积解码路径和稀疏化感知训练。作者还进行了条件码片空间分析,证明在与码字无关的扰动模型下,密集扩频会增加破坏匹配滤波恢复所需的扰动预算。实验在 COCO 和 DIV2K 数据集上与九种现有方案对比,结果表明 SpreadMark 是唯一在再生攻击和潜在空间稀疏化设置下均保持高检测率的方法,同时在 JPEG 压缩和加性噪声鲁棒性上表现相当,并且保持了水印的不可感知性,具有较高的感知质量。

💡 推荐理由: 该研究提出了一种全新的水印范式,通过扩频嵌入显著提升抗移除能力,对深度伪造溯源和内容认证有直接价值,值得水印与多媒体安全研究者关注。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Othmane Harraq, Tamer Aldwairi

本文针对说话人脸(Talking-Face, TF)深度伪造检测问题,提出了一种基于生理信号(远程光电容积描记术, rPPG)的取证方法。TF深度伪造技术利用静态源图像和音频信号合成逼真的面部视频,而现有基于图像特征的检测器几乎完全失效。与换脸(face-swap)伪造不同,TF合成没有对应的真实视频,因此无法继承生理特征,这使得rPPG成为该伪造类型独有的检测模态。作者构建了一个检测框架:首先使用RhythmFormer网络从每个视频中提取rPPG波形,然后训练一组轻量级分类器(如1D ResNet)来区分真实与合成的生理信号。在Celeb-DF++数据集的TF子集上,采用严格的与身份无关的评估协议(测试集身份与训练集完全分离),该框架的最佳模型(1D ResNet)取得了AUC 0.806、等错误率27.8%的性能,仅比当前最好的通用检测器Effort(ICML 2025)低2.4个百分点,且完全基于生理通道。此外,作者对代表性先前rPPG检测器DeepFakesON-Phys进行了受控复现研究,发现其在传统换脸数据上AUC高达0.999,但在TF子集上退化至0.622。进一步实验表明,检测难度与生成器高度相关:在7种TF生成器中,AUC范围从0.985(Real3DPortrait)到0.690(IP-LAP),且该排序在所有评估协议下保持稳定。该结果反映了每个生成器可解释的生理属性,而非评估噪声,构成了本文的主要理论贡献。

💡 推荐理由: 说话人脸深度伪造检测是当前安全盲区,该方法利用不可伪造的生理信号提供新检测维度,对视频取证和虚假信息防御具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 9.5
Conf: 50%
👥 作者: Xinfeng Li, Kai Li 0047, Yifan Zheng 0001, Chen Yan 0001, Xiaoyu Ji 0001, Wenyuan Xu 0001

本文提出了一种名为SafeEar的新型音频深度伪造检测框架,旨在解决现有检测方法因必须访问完整原始录音而泄露语音内容隐私的问题。随着文本转语音(TTS)和语音转换(VC)技术的进步,生成的逼真音频被恶意用于深度伪造,对社会和个人构成威胁。现有对策主要依赖完整音频来判断真伪,但在涉及商业秘密等敏感信息的场景中,内容暴露是不可接受的。SafeEar的核心创新在于设计了一种神经音频编解码器作为解耦模型,将音频样本中的语义信息(如语言内容)和声学信息(如韵律、音色)分离,检测器仅利用声学特征进行深度伪造识别,从而完全避免语义内容暴露。为了克服缺乏语义线索时识别各种深度伪造音频的挑战,该方法引入真实世界的编解码数据增强技术,提升检测器的泛化能力。在四个基准数据集上的广泛实验表明,SafeEar在检测多种深度伪造技术时取得了最低2.02%的等错误率(EER),同时保护了五种语言的语音内容:机器和人类听觉分析的字错误率(WER)均超过93.93%,用户研究也证实了隐私保护效果。此外,作者构建了用于反深度伪造和反内容恢复评估的基准,为未来音频隐私保护与深度伪造检测领域的研究提供了基础。本文适合对音频安全、隐私保护及深度伪造检测感兴趣的研究人员和工程师阅读。

💡 推荐理由: 音频深度伪造检测中隐私保护长期被忽视,SafeEar首次在不访问语音内容的情况下实现高精度检测,解决了敏感场景(如商业机密、法律谈话)下安全与隐私的矛盾,是音频取证领域的重要进展。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Tanusree Ghosh

该论文探讨了合成图像(Synthetic Images)在隐私保护生物识别应用与深度伪造(Deepfake)检测中的矛盾关系。一方面,合成图像技术(如生成对抗网络GANs生成的虚假人脸)可用于创建隐私安全的生物识别系统,例如通过合成替代真实用户照片来训练识别模型,从而避免直接存储个人生物特征数据,降低数据泄露风险。另一方面,同一技术也被滥用于生成深度伪造内容,对社交媒体上的信息真实性构成威胁。论文提出了一种统一的框架来同时实现隐私保护生物识别和深度伪造检测:利用合成图像构建鲁棒的生物识别模板,同时开发基于合成图像特征的新型Deepfake检测方法。实验表明,该方法在保持高识别精度的同时,能有效区分真实与合成图像,并抵抗常见的对抗攻击。论文还讨论了合成图像在平衡隐私与安全中的伦理考量,并提出了一个面向无虚假信息社交网络的部署方案。

💡 推荐理由: 本文揭示了合成图像技术的一体两面,为安全社区提供了在隐私保护生物识别与深度伪造防御之间取得平衡的系统化方案。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Md Anas Biswas

本文提出了一种新的深度伪造检测评估框架——校准深度伪造信任分数(CDTS)。传统上,深度伪造检测器的输出概率被直接视为信任度,但作者指出其校准性(即预测概率与实际正确率的匹配程度)与检测器的判别能力之间存在强耦合。通过在32种配置上的实验(合并Pearson r = -0.81),作者发现当检测器的判别能力下降时,信任分数的校准性也会显著退化。该现象在三种架构不同的检测器(两种卷积网络和一种CLIP视觉Transformer)上均得到验证,并且可通过直接诱导低能力来复现。此外,作者证明了CDTS的可部署性:一个在域内数据上冻结的校准器会在低能力生成器上失效,而无需标签的能力估计可以监测未见生成器上的校准风险。基于无参考能力估计的路由策略能降低整体AURC并改善中低覆盖区间的性能。研究还发现,能力因素同样驱动了人口统计子组间的校准不公平性(与准确性不公平性不同)以及解释忠实度。因此,作者主张检测器的可信度由能力作为共同驱动因素组织,信任评分必须具有能力感知性,并提供了CDTS作为实现机制。

💡 推荐理由: 该研究揭示了深度伪造检测器的一个关键局限性:信任度的校准性依赖于检测器的能力,这直接影响实际应用中的可靠性。对于安全运维人员,意味着不能盲目依赖检测概率,需要额外关注能力估计。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Mohammadreza Rashidi, Raja Hashim Ali, Sami Ur Rahman

该论文针对社交媒体中深度伪造视频检测问题,提出了一种基于3D卷积神经网络(3D CNN)的时序伪影分析方法。研究表明,传统基于单帧的检测器在面对高质量生成器(如128x128 GAN输出)时准确率下降,而时序不一致性伪影仍较稳定。作者采用R3D-18架构的3D CNN,结合二元交叉熵与时间一致性正则化的复合损失函数,在DeepfakeTIMIT数据集上以16帧片段训练,并利用Kinetics-400动作识别权重初始化。实验结果显示,在128x128分辨率下,内数据集评估准确率达92.8%;跨数据集迁移至FaceForensics++(未微调)为76.4%,少量微调后进一步提升。消融研究表明,迁移学习贡献7.2个百分点,人脸跟踪贡献3.5个百分点,而时间一致性正则化在高品质伪造上提供额外增益。结论证明时序伪影比空间伪影更具泛化性,能够抵御社交媒体重编码的干扰。

💡 推荐理由: 社交媒体深度伪造检测是当前安全热点,该研究揭示了时序伪影的鲁棒性,为实际部署提供了更可靠的检测方向。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Mamadou Keita, Wassim Hamidouche, Hessen Bougueffa Eutamene, Abdelmalik Taleb-Ahmed, Xianxun Zhu, Abdenour Hadid

近年来,计算机视觉领域取得了显著进展,尤其是卷积神经网络(CNN)、生成对抗网络(GAN)、扩散模型、视觉变换器(ViT)以及视觉-语言模型(VLM)等架构的发展,使得生成的视觉内容越来越逼真。然而,这些进步也带来了潜在的滥用风险,例如虚假信息、身份盗窃以及隐私和安全威胁。与此同时,基于Mamba的架构作为一种新兴工具,已在图像分类、分割、医学成像、目标检测和图像恢复等多种任务中展现出潜力,但在AI生成图像检测方面的应用尚未被充分探索。本研究对Vision Mamba模型在AI生成图像检测中的性能进行了系统评估和比较分析。我们在多个数据集和合成图像源上,将多种Vision Mamba变体与代表性的CNN、ViT和VLM检测器进行基准测试,重点关注准确性、效率以及跨不同图像类型和生成模型的泛化能力。通过全面分析,我们旨在阐明Vision Mamba相对于现有方法在适用性、准确性和效率方面的优势与局限性。总体而言,我们的研究结果揭示了Vision Mamba作为区分真实与AI生成视觉内容的系统组成部分的潜力与当前局限。这项研究对于在区分真实与AI生成内容成为重大挑战的时代提升检测能力至关重要。

💡 推荐理由: AI生成图像检测是当前网络安全和内容真实性验证的关键技术,Vision Mamba作为一种新架构,其性能评估对蓝队选择检测工具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ahmad Albarqawi, Mahmoud Nazzal, Issa Khalil, Abdallah Khreishah, NhatHai Phan

随着深度伪造技术的快速发展,生成逼真的虚假数字内容对媒体真实性构成严重威胁。传统的深度伪造检测方法在面对定制化、复杂的深度伪造时,泛化能力和鲁棒性往往不足。本文提出了一种名为ViGText的新方法,该方法创新地将图像与视觉大语言模型(VLLM)的文本解释相结合,并基于图神经网络(GNN)框架进行深度伪造检测。ViGText的核心在于利用详细的解释文本而非简单的标题,提供更丰富的上下文信息,从而捕捉细微的不一致性。具体而言,ViGText将图像划分为多个补丁,分别构建图像图和文本图,并通过GNN整合分析。方法还采用了跨空间域和频率域的多级特征提取,以增强对复杂深度伪造的检测鲁棒性。大量实验表明,ViGText在泛化性能上显著提升:在泛化评估中,平均F1分数从72.45%提升至98.32%;面对用户定制化的稳定扩散模型变体时,表现出优异的泛化能力。鲁棒性方面,ViGText的召回率相比其他方法提升了11.1%。针对利用其图架构的定向攻击,ViGText将分类性能下降限制在4%以内。本研究为深度伪造检测设立了新标准,有助于维护媒体真实性和信息完整性。

💡 推荐理由: ViGText结合视觉语言模型与图神经网络,显著提升了深度伪造检测的泛化能力和鲁棒性,为安全团队应对日益复杂的AI生成虚假内容提供了新思路。

🎯 建议动作: 研究跟进,评估将ViGText集成到现有深度伪造检测管道的可行性。

排序因子: 有可用补丁/修复方案 (+3) | 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Kavita Kumari, Sasha Behrouzi, Alessandro Pegoraro, Ahmad-Reza Sadeghi

本文提出了一种基于物理反射定律的深度伪造图像检测方法,名为 Light2Lie。当前深度伪造图像生成技术(如 GANs、扩散模型)在保留人脸纹理和几何方面已非常逼真,但往往忽略真实物理环境中光照与物体表面相互作用的固有约束。作者指出,伪造图像中的光照方向、反射强度及阴影分布常存在物理不一致性,而人眼难以察觉。为此,该方法利用双向反射分布函数(BRDF)等物理模型,从单张图像中提取光照特征和反射特征,并通过统计学习或神经网络判断是否符合真实物理规律。具体地,论文设计了一个多尺度特征提取模块,分别计算全局光照一致性(如环境光方向)和局部表面反射属性(如菲涅尔效应)。在多个公开深度伪造数据集(如 FaceForensics++、Celeb-DF)上,该方法在 AUC 和准确率方面显著优于现有的基于频率、纹理或深度学习的检测器,尤其在跨数据集泛化测试中表现鲁棒。此外,作者进行了消融实验,验证了各物理特征分量的贡献。该工作为数字图像取证提供了新思路,表明结合物理先验能有效提升对逼真伪造图像的检测能力。适合研究人员和取证分析师阅读。

💡 推荐理由: 该方法不依赖特定生成模型类型,基于不可伪造的物理规律,对高保真深度伪造具有鲁棒性,有望推动实际取证应用。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)