AERIAL: Adversarial Evaluation of Robustness in Accuracy-Preserving Low-Precision EEG Decoders
该论文研究面向部署的模型压缩是否会改变脑机接口(BCI)中 EEG 解码器的对抗脆弱性,这一问题在资源受限的可穿戴/边缘 BCI 场景中尚未有明确结论。作者在 BCI Competition IV-2a 数据集上,对 32 位浮点(FP32
共收录 217 条相关情报。
← 返回所有主题该论文研究面向部署的模型压缩是否会改变脑机接口(BCI)中 EEG 解码器的对抗脆弱性,这一问题在资源受限的可穿戴/边缘 BCI 场景中尚未有明确结论。作者在 BCI Competition IV-2a 数据集上,对 32 位浮点(FP32
随着自动驾驶等应用的发展,目标检测模型的安全问题日益凸显,其中后门攻击可严重破坏模型完整性。攻击者通过在输入中植入预定义触发器,可导致目标类别被篡改(对象误分类)、边界框被移除(对象消失)或为非存在对象生成边界框(对象生成)。尽管图像分类领
该论文研究文本到图像扩散模型(如 Stable Diffusion)中多 LoRA 适配器组合加载时的安全问题。背景是:用户常把多个低秩适配(LoRA)叠加使用,以实现不同主体、风格与视觉属性的个性化定制,而当前的安全审查通常只逐个检查单个
该论文关注智能眼镜持续录像带来的「旁观者隐私」问题,指出人脸脱敏远不足以保护路人隐私:连续视频会暴露步态、体态、体型轮廓等全身生物特征,攻击者据此仍可完成人员再识别(ReID)。作者提出 MIRAGE,一个面向智能眼镜的三层架构,目标是实现
该论文研究开放世界(open-world)条件下的图像取证问题:篡改类型涵盖完全合成图像、局部编辑、拼接与换脸/替换等,而现有取证检测器大多只针对单一篡改族,难以覆盖真实场景。作者提出并系统剖析了一个免训练(training-free)的智
本文关注深度视觉模型在对抗性扰动下的脆弱性问题。基于卷积网络或 Transformer 的神经网络已成为现代计算机视觉系统的核心组件,但已有研究表明,人眼几乎不可察觉的微小扰动即可显著改变模型预测结果,这对自动驾驶、医疗影像、工业质检等安全
该论文研究人脸识别模型在"语义对抗编辑"下的脆弱性问题。背景是:人脸识别已被广泛嵌入日常身份认证与视频监控系统,而近期工作发现,对输入图像做对抗性但语义层面看似合理的修改(例如轻微改变年龄外观、调整头部姿态),就能诱导模型产生误分类。这类语
该论文关注虹膜活体检测(Presentation Attack Detection, PAD)在真实部署中的鲁棒性问题:一个在开发阶段表现可靠的子模块,一旦遇到验证集中从未出现过的呈现攻击工具(Presentation Attack Ins
本文研究异构协同感知(Heterogeneous Cooperative Perception, CP)的对抗鲁棒性问题。在此类系统中,传感器配置各异的联网车辆通过紧凑特征图共享空间感知,接收方使用学习到的翻译模块(translation
局部图像水印(local watermarking)与传统的全图水印不同,它只把不可见信号嵌入到图像的特定区域内,而不是平铺到整幅图像上,因此可以从某个目标物体或指定区域中恢复出载荷(payload)并给出该区域的大致定位(localiza
该论文针对视觉语言模型(VLM)在隐私敏感与带宽受限场景下的视觉问答(VQA)任务,提出名为 QPriv-VL 的「问题引导式、隐私感知」视觉 token 剪枝框架。研究背景是:联邦学习(FL)、拆分学习(SL)与 U 型拆分学习(USL)
深度伪造(deepfake)检测器普遍面临基于迁移的黑盒攻击威胁:攻击者在一个本地替代模型(source surrogate)上构造对抗样本,再直接投放到未知的目标检测器(target)上,从而在不接触目标模型的情况下实现绕过。然而,源模型
VeriScene 提出将世界模型用于法医场景重建,以解决原始多模态证据直接输入世界模型时产生的证据遗漏、证词矛盾被忽略以及生成运动不符合证据记录等问题。该模型以智能体方式编排世界模型,接收法医照片和可靠性不一的证人陈述作为输入,通过“引用
本文研究视频大语言模型(VideoLLMs)在安全攸关场景(如内容审核、视频分析)中面临的观察级攻击(observation-level attacks)防御问题。VideoLLMs 为高效处理长视频,通常依赖帧采样、令牌压缩和模态融合等组
本文研究点地图(dot maps)这一可视化形式在公开发布时可能导致的隐私泄露问题。点地图将敏感数据中的每个个体以地理区域上的一个点呈现,被广泛用于展示空间分布规律。然而,现有文献对大面积区域点地图的隐私风险认知有限。作者系统性地分析了此类
本文针对边缘视觉系统中深度可分离卷积网络(如移动端常见架构)在对抗攻击面前使用基于预处理的防御时的有效性评估缺口展开研究。以往关于预处理防御(例如图像压缩、去噪等输入变换)的评测主要基于残差类网络(如 ResNet)或 Inception
该论文提出了一种面向实际部署的黑盒后门防御方法 TRIM(Trigger Removal by Identifying Manipulated Regions),用于在推理阶段检测并选择性清除深度神经网络图像分类模型中的后门触发器。后门攻击
本文针对机器学习即服务(MLaaS)平台上生成模型快速普及所带来的合成媒体溯源难题,提出了一种无需修改生成器架构或参数的自引用逆合成框架,用于可解释的AI溯源取证。该框架假设生成器固定(fixed-generator setting),通过
该研究揭示了一种针对隐形水印的新型规避风险——水印清洗(watermark laundering)。传统上,隐形水印的鲁棒性测试仅针对压缩、模糊、噪声、裁剪、去噪等预定义扰动。然而,公开的基础图像模型(如 OpenAI 和 Google 的
MultiGait 论文针对智慧城市新兴传感器(热成像相机、深度相机、激光雷达等)缺乏合适数据集、难以系统评估其隐私风险的问题,构建了首个多传感器、多视角、多会话的步态数据集,并形成了一套身份推断基准。作者认为,在大量关于传感器隐私影响的未