Effective Synthetic Image Detection via Noise Residual Clustering
本文针对生成式人工智能(AI)生成的合成图像日益逼真、可能被用于虚假信息传播和欺诈等安全威胁的问题,提出了一种无需训练(training-free)的合成图像检测方法。现有检测器大多依赖大规模标注数据进行监督训练,成本高且对未知生成模型泛化
共收录 217 条相关情报。
← 返回所有主题本文针对生成式人工智能(AI)生成的合成图像日益逼真、可能被用于虚假信息传播和欺诈等安全威胁的问题,提出了一种无需训练(training-free)的合成图像检测方法。现有检测器大多依赖大规模标注数据进行监督训练,成本高且对未知生成模型泛化
该论文提出了 Banshee,一种针对无人机(UAV)中基于云台稳定视觉跟踪系统的物理可实现攻击方法,通过声学注入诱导目标切换。现有研究表明声学信号可以干扰云台内部工作,但尚未充分探索对实际应用(如无人机跟踪与跟随)的影响。Banshee
该论文针对眼动生物特征识别系统面临的高级呈现攻击(如高清视频重放和实时生成式深度伪造)提出了一种双流挑战-响应协议。当前呈现攻击检测(PAD)框架通常依赖孤立的生理指标(如注视追踪或瞳孔光反射),这些指标易被单独欺骗。作者提出了时空-亮度传
该论文提出了一种针对基于事件的视觉(event-based vision)和脉冲神经网络(SNN)目标检测模型的可用性后门攻击方法,称为Event Burst Trigger(EBT)。研究背景:基于事件的视觉传感器和SNN因其低延迟和低能
该论文系统评估了针对增强3D点云公共数据集的投毒攻击的操作性影响。随着自动驾驶和联网汽车的发展,3D点云数据被广泛用于训练感知模型,但公共数据集可能遭受投毒攻击,导致分类错误或后门注入。传统观点认为数据增强技术(如旋转、缩放、噪声添加)可以
本文针对大规模生成模型快速发展导致的高度逼真AI生成图像泛滥问题,提出了一种新的通用合成图像检测框架RNSIDNet。现有取证网络通常依赖单一域表示和传统二分类优化,导致跨模型泛化能力差且对真实世界退化(如JPEG压缩、缩放等)鲁棒性不足。
该论文研究了一种新型的视觉模型脆弱性:数据集本身存在的自然统计信号,可以在没有恶意注入的情况下充当类似后门触发器的角色。作者将这种信号称为“统计对手”(statistical adversaries)。与传统的模型特定对抗攻击不同,这些信号
该论文提出了一种针对大型视觉语言模型(LVLM)的新型越狱攻击方法,名为信息过载(Information Overloading)。LVLM 在个人助理、文档分析、具身智能等场景广泛应用,但其双模态攻击面(视觉和文本)易受越狱攻击。现有攻击
这篇综述系统地梳理了身份证件伪造攻击与检测方法的最新进展。随着生成式AI工具的普及,伪造能力发生了根本性转变:非专业人员也能借助AI生成高逼真度的证件或对现有证件进行字段级篡改,而现有的检测基准尚未跟上这一威胁。论文首次将物理呈现攻击(如印
该论文针对虚拟现实和增强现实(VR/AR)中的身份认证问题,提出了一种名为“Sign in the Air to Unlock”的空中签名认证接口。传统的密码、PIN或基于硬件的登录方式会打破沉浸感且依赖外部设备,而现有的3D行为认证方法(
本论文提出了一种免提示的扩散图像隐写框架(Prompt-Free Diffusion Steganography),旨在解决现有基于文本提示的潜在扩散模型(LDM)隐写方法中,文本提示灵活性不足导致隐写图像质量低、秘密图像恢复不准确的问题。
本文提出了一种名为 Derail 的对抗攻击框架,针对当前生成式端到端自动驾驶规划器中的评分头(scoring head)进行攻击。生成式规划器(如基于扩散去噪或词汇检索的模型)在推理时,通常会生成一组候选轨迹(锚点、词汇条目或提议查询),
该论文研究了基于点云的3D目标检测器在复杂场景下的结构脆弱性。现有工作主要关注孤立3D模型的对抗鲁棒性,而最近的LiDAR欺骗攻击虽然针对真实驾驶场景,但侧重于物理可实现性,未深入分析检测器的行为模式或攻击效率。本文提出一种可解释性引导的对
本论文针对潜在扩散模型(LDM)中语义水印的黑盒伪造攻击进行了重新思考。此类水印通过将信息嵌入到LDM的初始噪声中,但现有研究显示其在黑盒场景下易受伪造攻击,且缺乏对攻击成功条件的严格理论理解。为弥补这一空白,作者从潜在空间中的率失真理论视
该论文系统审计了当前视频异常检测(VAD)基准测试的可靠性。现有文献常报告高帧级ROC-AUC(例如在UCSD Ped2上超过0.9),但这些指标是通过在同一摄像头的训练和测试集上评估获得的。论文假设这一条件在真实部署中不成立,并设计了跨数
本文提出并评估了一个用于过肩视频监控(Over-the-Shoulder Video Surveillance)的多模态触摸检测框架,旨在从物理手指交互中重建移动键盘上的按键事件。该框架并行集成四种检测模态:MediaPipe 手部关键点、
本文提出了一种新的深度伪造检测评估框架——校准深度伪造信任分数(CDTS)。传统上,深度伪造检测器的输出概率被直接视为信任度,但作者指出其校准性(即预测概率与实际正确率的匹配程度)与检测器的判别能力之间存在强耦合。通过在32种配置上的实验(
本文针对自监督学习(SSL)预训练模型易受后门攻击的问题,提出了一种全新的、攻击无关、模型无关、模态无关的黑盒测试时防御范式——柏拉图表示防御(Platonic Representation Defense)。该方法受柏拉图表示假设启发,该
本文提出了一种名为 Bit-ViP 的基于位平面的图像混淆方案,旨在保护图像中的视觉隐私,同时保持足够的可用性以支持基于图像的识别任务。研究背景是计算机视觉应用(如监控系统和社交媒体)的快速增长引发了安全和隐私担忧,尤其在云端存储数据时。现
本文研究联邦学习中的语义驱动后门攻击机制,重点探讨触发器颜色对攻击成功率的影响。联邦学习易受到后门攻击,恶意客户端注入中毒更新同时保持良性任务性能。现有研究多关注触发器形状、位置等,而本文系统性地分析了触发器颜色这一因素。攻击者使用自然视觉