#pet

共收录 3 条相关安全情报。

← 返回所有主题
👥 作者: Christos Galanopoulos, Kimon Antonios Provatas, Ilias Georgakopoulos-Soares

该论文题为《Feasibility of Homomorphic Inference for a Genomic Foundation Model》,研究的是人类基因组序列与基因组基础模型(genomic foundation model)推理之间的隐私矛盾:基因组数据可唯一识别个人、一旦泄露无法像密码那样更换,而基因组基础模型恰恰需要以这些序列作为输入。作者提出的核心问题是:在计算服务方(compute provider)不接触明文查询衍生基因组数值的前提下,能否完整执行一个已公开权重(released weights)的基因组基础模型;正确性、内存或成本是否会阻碍完整的加密推理。方法上,作者先在三类基因组任务族上复现该公开模型,并冻结一份经过独立验证的数值参考基准(numerical reference),用于比对加密推理结果的正确性。随后实现了一种“客户端辅助的近似同态加密协议”(client-assisted approximate homomorphic encryption protocol):线性代数部分(如矩阵乘法等)由服务方在密文上求值,而密钥持有者即数据所有方负责在固定边界处计算精确的归一化、因果 softmax 以及激活函数,从而避免在密文上近似这些非线性算子带来的精度损失。实验表明:完全非交互式(noninteractive)配置只能完成一个公开权重块(block),当尝试进行多块组合(composition)时会超出所测试加速器的显存上限;而客户端辅助配置能够完整执行全部公开的 transformer 块以及任务头(task head),针对一个留出的基因组信号输入、按其完整提示长度完成推理,最终标签与冻结参考值一致,显存峰值 9,839 MiB,在单张加速器上耗时 6,683 秒。结论是:对于一个完整分类器而言,算术层面的可行性已得到验证,但可重复性、网络传输开销以及私密的 token 索引查找(private token-index lookup)仍是未解决问题。生物医学意义在于:在所述威胁模型下,一个被托管提供的基因组模型可以处理编码后的序列,而不向计算服务方暴露明文的、由查询衍生的中间激活值。该工作适合隐私增强技术(PET)、同态加密工程、基因组数据治理与合规、以及医疗 AI 平台部署方向的研究者与工程师阅读。

💡 推荐理由: 基因组数据不可撤销且可识别个人,托管式基因组模型推理天然存在明文暴露风险。本文首次给出完整基因组基础模型在客户端辅助同态加密下跑通端到端分类的实测数据(单卡约 1.8 小时、峰值约 9.8 GiB 显存),为医疗/基因组场景的隐私计算可行性评估提供了量化基线,也暴露了组合式全密文推理的显存瓶颈。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Shannon Veitch, C. Shem, Lena Csomor, Oleksandr Dudiy, Naone Kim, Khoi Le, Lina Saha, Alexander Viand, Anwar Hithnawi, Bailey Kacsmar

该论文针对现实世界中的数字隐私事件展开实证研究,旨在评估隐私增强技术(PETs)的目标与能力是否与用户实际遭受的隐私伤害相错位。作者从新闻媒体中收集了257起真实隐私事件作为样本,采用内容分析法对这些事件进行系统编码,并据此提出了一种新的信息流模型。该模型能够刻画数据流在复杂实体交互中的传递路径,以及这些路径最终如何导致隐私伤害。研究发现,现有模型无法充分解释隐私伤害的涌现机制——伤害往往并非由单一实体或单一行为导致,而是多个实体与多类行为交互作用的产物。基于该模型,论文揭示了几个关键问题:第一,用户同意机制往往不足以防止隐私侵害,因为同意无法覆盖数据在后续流转中产生的衍生风险;第二,隐私增强技术通常聚焦于启用某种功能或保护数据在传输过程中的机密性,但并没有消除因功能本身被滥用或数据被不当聚合而产生的伤害;第三,在样本中的事件里,最有能力实施伤害预防措施的实体(如大型平台、数据中间商)恰恰最缺乏这样做的动机。整体而言,作者希望通过该模型和分析,指出当前隐私技术研究方向与真实隐私防护需求之间的脱节,并为重新规划隐私技术的研发路径提供方向建议。适合对隐私技术社会影响、数据治理合规和安全度量感兴趣的从业者阅读。

💡 推荐理由: 它揭示了PETs盲区:技术保护不等于伤害消除,为蓝队评估隐私风险、设计隐私保护机制提供了实证框架。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ruizhe Wang 0003, Roberta De Viti, Aarushi Dubey, Elissa M. Redmiles

本研究聚焦于自愿捐赠私人健康数据用于利他目的(如支持医学研究)时,隐私保障机制对人们捐赠意愿的影响。尽管数据捐赠是常见实践,但对数据滥用和泄露的担忧可能阻碍公众参与。隐私增强技术(PETs)旨在通过提供隐私保证来缓解这些担忧,从而促进安全、私密的数据共享。作者通过一项基于情景问卷(vignette survey)的在线实验,招募了494名美国参与者,系统考察了四种通用隐私保证(数据过期、匿名化、目的限制、访问控制)对捐赠意愿的影响。研究还探索了两种验证这些保证的机制:自我审计和专家审计,并控制了人口统计特征以及数据收集者类型(营利机构与非营利机构)等混杂因素。实验设计采用情境模拟,让参与者评估在不同隐私保证条件下向不同类型机构捐赠医疗数据用于新疗法开发的意愿。主要发现包括:第一,受访者对非营利机构抱有先验的高隐私期望,因此明确列出隐私保护条款对其整体感知几乎没有额外影响;第二,对于营利机构,提供隐私保证能够显著提升受访者的隐私期望,使其接近非营利机构的水平,这意味着隐私保证在一定程度上弥补了机构类型带来的信任差距;第三,尽管技术社区普遍认为审计(尤其是专家审计)可以增强对PET保证的信任,但研究结果显示,关于审计机制的透明度对受访者感知的影响有限,这出乎技术社区预期。作者强调这些发现的风险:如果公众对非营利机构过度信任而忽视实际隐私风险,或对审计机制的有效性抱有过高期望,都可能导致隐私保护流于形式。研究呼吁未来需要跨学科努力,弥合技术社区与终端用户对PET审计有效性的认知差距。该论文适合隐私保护研究者、健康数据治理政策制定者以及PET设计者阅读,其方法可为后续相关实证研究提供参考。

💡 推荐理由: 该研究揭示了隐私保证在不同类型数据收集者间的差异化效果,挑战了审计机制能显著提升信任的假设。对安全从业者而言,理解用户对隐私保护的先验期望和审计认知偏差,有助于设计更符合实际需求的数据共享方案和透明化机制。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)