On the Relationship between Model Quantization and Model Inversion Attacks
该论文研究模型量化与模型反演攻击（Model Inversion, MI）之间的定量关系，并据此提出一种兼顾隐私与效用的训练后量化方法。研究背景是：量化通过降低神经网络权重与激活的数值精度来压缩存储与计算开销，已在边缘与部署场景广泛使用；但
#model-inversion
共收录 7 条相关情报。
← 返回所有主题SoK: Privacy Attacks on Machine Learning via Explainable AI
该论文是一篇系统性综述 (SoK), 聚焦于一个长期被分散讨论的安全议题: 可解释人工智能 (XAI) 所输出的解释信息, 如何反过来成为攻击者窃取模型机密与训练数据隐私的入口。作者指出, 机器学习解释原本用于提升模型透明度, 但它揭示的是
Steering the Flow: Inverting Face Recognition Models via Gradient-Guided Flow Matching
本文针对人脸识别系统中的模型逆向攻击（Model Inversion Attacks, MIAs）提出了一种新的两阶段白盒攻击方法——Steering Flow Model Inversion (SFMI)。模型逆向攻击旨在从训练好的识别模
Don't Trust the AI Ecosystem: Analyzing Privacy Leakage in Compromised Open-Source Components
本文针对 AI 供应链中开源组件被篡改导致的数据泄露问题，提出了一种名为 GradLock 的新型训练时注入攻击。传统模型反演攻击依赖训练后优化，受限于模型泛化瓶颈，难以在高维数据集上恢复具体身份特征。GradLock 在受损供应链场景下，
Crafter: Facial Feature Crafting against Inversion-based Identity Theft on Deep Models.
随着边缘设备（如手机）计算能力提升和隐私要求日益严格，越来越多的深度学习应用选择在边缘端预处理敏感原始数据，再将提取的特征传输到云端进行后续处理。面部识别服务是典型例子，它需要从不同个人的面部图像中提取特征。为了防止身份信息在传输或云端被窃
FedCVESA: Taking Away Training Data in Federated Learning via Correlation Value Encoding and Segmented Aggregation
本文研究了联邦学习（FL）中的一种新型攻击：中央化“取走训练数据”（TATD）攻击。传统的TATD攻击利用深度模型的记忆能力存储并恢复训练数据，但在联邦学习环境中，多客户端平均聚合可能会覆盖编码后的数据，使得攻击难以实现。为此，作者提出了F
Scale-MIA: A Scalable Model Inversion Attack against Secure Federated Learning via Latent Space Reconstruction.
联邦学习（Federated Learning）因其能够保护参与者数据隐私而闻名。然而，近期出现的模型逆向攻击（Model Inversion Attacks, MIAs）表明，恶意的参数服务器可以从模型更新中重建用户的本地数据样本。现有的