Fairness Properties of Face Recognition and Obfuscation Systems.
该论文围绕人脸识别（FR）系统与混淆（Obfuscation）系统的公平性属性展开研究。人脸识别技术已在安防、身份验证等领域广泛部署，然而研究表明其性能可能在不同人口统计群体（如种族、性别、年龄）之间存在显著差异，从而引发公平性担忧。混淆系
#fairness
共收录 13 条相关情报。
← 返回所有主题Auditing Cross-Lingual Fairness in Language Model Watermarking
该论文指出，当前大语言模型（LLM）输出水印方案的评估几乎完全基于英文文本，并且使用固定的检测阈值和狭窄的一组质量测量手段，这使得跨语言部署中的公平性问题被系统性忽视。作者提出了一套跨语言公平性审计框架，包含四个关键组成部分：第一，根据具体
Doing good by fighting fraud: Ethical anti-fraud systems for mobile payments.
本文对移动支付应用中的反欺诈安全挑战（step-up authentication）进行了首次大规模伦理与公平性测量研究。作者以真实生产环境中的现有反欺诈系统 Boxer 为基础，在 5,085,444 台真实设备、496 个真实应用上收集
Analysis of Trustworthiness and Fairness in Machine Learning for Healthcare.
本文（arXiv 论文）针对机器学习在医疗健康领域应用中的可信度（Trustworthiness）与公平性（Fairness）问题进行了系统性分析。在医疗场景下，模型必须同时满足精准性、可解释性、鲁棒性和无偏见等要求，但现有研究往往只关注单
Fairis: Fairness-Aware Aggregation with Provable Influence Containment against Fairness Poisoning Attacks in Collaborative Machine Learning
协作机器学习允许金融机构在不直接共享数据的情况下共同训练模型，但必须同时满足群体公平性和对抗鲁棒性。然而，现有的公平性感知聚合方法在形式上容易受到“公平性投毒”攻击：恶意客户端可以在保持模型准确性的同时最大化群体差异（例如不同组间的等机会差
Privacy Cost as Equity Input: A Group Fairness Criterion for Differentially Private Machine Learning
该论文提出了一种新的群体公平性度量方法——Privacy-Cost Equity Ratio (PCER)，用于评估差分隐私（DP）机器学习系统中的群体公平性。传统的公平性度量主要关注模型输出（如准确率）在不同群体间的差异，但忽略了隐私成本
Where to Intervene? Benchmarking Fairness-Aware Learning on Differentially Private Synthetic Tabular Data
该论文针对差分隐私（DP）合成表格数据中的公平性问题进行了首次系统性基准评估。研究背景是机器学习模型在高风险领域（如金融、医疗）的部署日益普遍，隐私和公平性成为关键关注点。差分隐私已成为隐私保护数据分析的金标准，而公平性机制旨在减轻对弱势群
Productionized Fairness Measurement Under Privacy Constraints
该论文针对公平性度量中的人口统计信号（如种族/民族）因法律约束或文化敏感性而难以收集和使用的挑战，提出了一种隐私保护的种族/民族概率估计方法（PPRE）。PPRE结合了两种信号源：基于贝叶斯改进的姓氏地理编码估计器（BISG）和稀疏的自我报
Ethical and Technical Limits of Deepfake Speech Datasets
该论文对39个深度伪造语音数据集进行了系统性的数据集级审计，分析了可访问性、文档质量、人口统计与语言覆盖范围、数据集规模以及底层真实语音来源等关键属性。研究发现两个重要问题：首先，绝大多数数据集缺乏人口统计元数据（如年龄、种族、国籍等），仅
Fair Finetuning Mitigates Distribution Inference Attacks
本文研究了机器学习模型在敏感数据训练时可能泄露训练分布群体信息的问题，即分布推断攻击（DIA）。攻击者仅通过黑盒访问模型，即可推断出敏感的人口统计属性（如子群体比例）。现有防御手段如差分隐私和属性遗忘已有相关研究，但公平性约束与分布泄漏之间
Poster: Verifiable Data Valuation with Strong Fairness in Horizontal Federated Learning.
联邦学习（FL）是一种去中心化的机器学习范式，允许多个参与方在不共享原始数据的情况下协同训练全局模型。由于各参与方数据质量参差不齐，如何公平地评估每个数据提供者的贡献（即数据估值）成为保障FL公平性的关键问题。现有工作常引入沙普利值（Sha
Choose Wisely and Privately: Proactive Client Selection for Fair and Efficient Federated Learning
联邦学习通过不传输原始数据的方式实现分布式模型训练，但平均聚合方法受非独立同分布（non-IID）数据的严重影响，导致收敛速度慢和模型精度下降。现有替代方案具有显著的低效性：带有噪声或高度异构数据的客户端贡献了昂贵的梯度计算，这些计算在聚合
Secure Auctions in the Presence of Rational Adversaries.
本文研究密封投标拍卖场景下的安全协议设计。传统拍卖依赖可信拍卖师，但现实中很难找到完全可信的第三方。通用安全计算协议虽能消除可信第三方，但效率低下且缺乏公平性——即恶意方可在获取输出后中止协议，阻止其他方获得结果。为此，作者引入理性敌手模型