#embedding-suppression

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Iyadh Khan, Patrick Nilackshan, Mohamed Aathif, Mohamed Theesan, Sandareka Wickramanayake, Sanka Rasnayaka

本文首次系统性地审计了行为生物特征认证(BBA)系统中的人口统计信息泄漏问题。BBA 系统使用深度学习模型将眼动、语音、按键/触摸动态、步态等生物信号转换为身份嵌入向量,用于用户认证。然而,这些嵌入在编码身份的同时,可能无意中泄露性别、年龄、身高等敏感人口统计属性。攻击者若能够访问认证模型,即可以从生物信号中推断出训练或注册阶段未见过的用户的人口统计信息。作者在 9 个数据集上评估了 11 个模型,涵盖四种生物特征模态,并进一步基准测试了四种事后抑制方法:增量变量消除(IVE)、希尔伯特-施密特独立性准则(HSIC)、对抗式编码器-解码器(AED)和受保护属性抑制系统(PASS),以衡量它们在保持认证效用的同时减轻人口统计泄漏的能力。实验结果显示,泄漏程度和可抑制性在不同模态、模型架构和学习目标之间差异显著。语音嵌入的泄漏较高但可以有效抑制,而按键/触摸动态嵌入的泄漏较低但极难消毒。该研究揭示了行为生物特征认证中一个基础性的隐私风险,并为影响人口统计信息可抑制性的因素提供了见解。适合生物特征安全、隐私保护机器学习、认证系统设计相关研究人员阅读。

💡 推荐理由: 行为生物特征认证日益普及,本文揭示了其嵌入向量可能泄露人口统计属性的系统性风险,为隐私保护与合规评估提供了首个跨模态审计基准,对蓝队评估认证系统隐私风险有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)