#identity-leakage

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Vishnu Bondalakunta, Arman Zareian Jahromi, Shuangqing Wei, George Amariucai

该论文研究人脸交换匿名化技术中的隐私保证可解释性问题。人脸交换通过将目标个体的人脸替换为捐赠者人脸,同时保留非面部上下文,以实现视觉上的匿名化;理论上,人脸识别系统应无法识别出目标身份,从而满足隐私保护需求。然而,作者对多种人脸交换模型进行实证评估后发现,目标身份信息仍有显著泄漏,这表明现有方法在隐私保护上存在缺陷。为深入理解泄漏机制,论文提出一种线性随机模型,将人脸交换器视为身份嵌入空间中的变换(可能伴随随机噪声),从而为身份泄漏提供一个可解释的数学描述。该模型可拟合经验数据,并据此推导出可测试的预测,帮助研究者预测和量化泄漏风险。最终目标是建立一个有原则、可解释的隐私评估框架,使正式隐私保证不再依赖纯观察结果,而是具有理论支撑且可被改进。本文为隐私保护、人脸识别和安全领域提供了新的理论工具,适合隐私保护研究者、人脸识别系统开发者及需评估匿名化方案的安全工程师阅读。

💡 推荐理由: 人脸交换匿名化被广泛用于隐私保护,但身份泄漏可能使攻击者重新识别目标。该研究提供可解释的泄漏机制模型,有助于评估和改进匿名化方案的隐私保障,对依赖此类技术的数据发布和脱敏场景具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Xinyu Zhang, Ziping Dong, Qingyu Liu, Yuan Hong, Zhongjie Ba, Kui Ren

该论文关注鲁棒图像水印中的身份泄露问题。随着生成式AI发展,图像水印用于版权保护和所有权验证,但现有鲁棒水印方法易受两种攻击:对抗攻击(修改水印图像使解码失败)和身份泄露攻击(伪造水印图像)。作者发现,无论是经验鲁棒还是认证鲁棒的现有方法,都在增强鲁棒性时加剧了身份信息泄露(攻击者可利用可区分的特征伪造水印)。为解决此问题,论文提出W-IR,首个同时实现身份保护和鲁棒性的图像水印框架。核心方法包括:1)基于随机平滑的认证鲁棒机制,在像素级和坐标级两个变换空间上提供认证鲁棒性(利用Neyman-Pearson引理确定最优决策边界);2)基于残差信息损失的身份泄露缓解策略,通过最小化残差图像与水印图像之间的互信息,减少身份特征的泄漏。实验表明,W-IR在保持高认证准确率的同时,有效降低了身份泄露风险,在鲁棒性和身份保护之间取得了更优平衡。代码已开源。

💡 推荐理由: 揭示了鲁棒水印中的身份泄露安全风险,并提供了可认证防御方案,对保护数字内容版权和防范深度伪造至关重要。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)