Passive Inference Attacks on Split Learning via Adversarial Regularization.
本文研究拆分学习（Split Learning, SL）场景下的隐私泄露风险，提出了一种名为 SDAR 的新型被动推理攻击框架。拆分学习被视为传统联邦学习的实用高效替代方案，客户端在本地保留部分模型层（即私有模型）并只与服务器交换中间表征，
#inference-attack
共收录 6 条相关情报。
← 返回所有主题Are LLM-Enhanced GNNs Privacy-Safe?
本文系统评估了由大语言模型增强的图神经网络（LLM-enhanced GNNs）在隐私安全方面的风险。近年来，LLM 通过丰富节点表示的语义信息显著提升了 GNN 的性能，但这类模型面对隐私攻击时的脆弱性尚未被充分研究。为此，作者提出了一个
Truth Serum: Poisoning Machine Learning Models to Reveal Their Secrets.
本论文提出了一类新的针对机器学习模型的主动推断攻击，称为“Truth Serum”。这类攻击的核心思想是：如果攻击者能够向训练数据集中投毒（即注入精心设计的恶意样本），那么训练出的模型将会泄露其他参与方（受害者）训练数据中的敏感隐私信息。这
A Run a Day Won't Keep the Hacker Away: Inference Attacks on Endpoint Privacy Zones in Fitness Tracking Social Networks.
该论文研究了健身追踪社交网络（如Strava）中端点隐私区域（Endpoint Privacy Zones）的安全性问题。这些隐私区域本应隐藏用户家庭或工作地点的精确位置，但研究发现攻击者可以通过公开的健身活动数据（如跑步轨迹、时间戳）进行
SAFELearn: Secure Aggregation for private FEderated Learning.
该论文聚焦于联邦学习（FL）中的隐私保护问题。联邦学习作为一种分布式机器学习范式，允许多个客户端在不共享原始数据的前提下，通过聚合服务器联合训练全局模型。然而，现有研究表明，恶意聚合服务器可能通过客户端上传的模型更新发起推理攻击，窃取客户端
QuerySnout: Automating the Discovery of Attribute Inference Attacks against Query-Based Systems.
本文针对基于查询的系统（如数据库、机器学习API）中的属性推断攻击，提出了一种自动化发现方法QuerySnout。属性推断攻击是指攻击者通过向系统发送一系列精心设计的查询，推断出目标用户的敏感属性（如年龄、性别、疾病等），这对用户隐私构成严