#neurophysiology

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Cagri Arisoy, Md Imanul Huq, Amy W. Hays, Nitesh Saxena

该论文从人因与神经生理学角度审视深度伪造(deepfake)对信息真实性与安全的威胁。作者指出,尽管深度伪造已被广泛视为利用人类对视听感知信任的攻击手段,但此前尚不清楚人类及其潜意识层面的神经生理过程能否可靠区分深度伪造视频与真实视频。为此作者提出 DECEIVE 框架(Deepfake Exploitation of Cognitive Engagement and Implicit Visual Evaluation),把深度伪造视频视为“对抗性载荷”,建模其如何通过受众的行为判断与神经生理响应被“验证有效”,并说明攻击者可据此迭代筛选、保留那些能够规避人类识别的操纵样本。该框架与数据集无关,可同时适用于合成媒体与真实媒体,且天然具备双用途属性:具备同等测量能力的行为者也能反向利用同一流程优化攻击;正因如此,作者主张开展公开的防御性评估,以“能骗过人眼的深度伪造”作为攻击者能力的现实上界,用于评估检测工具、来源溯源与水印机制以及面向用户的防护措施。在实例验证部分,作者开展了一项 EEG(脑电)与眼动追踪研究,让被试观看来自 Celeb-DF 数据集及自建名人视频集的真实、深度伪造与长相相似(look-alike)视频,同步记录行为判断与内隐响应。结果显示,与既往基于绘画和钓鱼网站研究提出的“潜意识可区分”预期相反,真实视频与深度伪造视频之间未出现统计上显著的神经生理差异,而长相相似视频则表现出清晰可辨的差异。行为层面,被试将 26.68% 的操纵片段判定为真实,面对熟悉身份时这一比例升至 31.94%,从而在 DECEIVE 框架内证实所研究的深度伪造样本确为有效的对抗性载荷。

💡 推荐理由: 它说明“靠人眼与直觉辨别深伪”在生理层面缺乏可靠依据,且熟悉身份会进一步降低辨识率。这意味着以人工审核或用户自查为核心的防线存在系统性缺口,检测、溯源与水印等自动化手段的必要性被实证强化。

🎯 建议动作: 研究跟进,并纳入内部人因风险评估与内容审核流程评审

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)