#multi-institutional

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Olivera Kotevska, Sumit Jha, Aurélien Bellet, Rui Hu, Nathaniel D. Bastian, Rafael Ferreira da Silva, Ravi Madduri, Kibaek Kim

这是一篇立场/观点型(perspective)论文,讨论多机构协作开展科学人工智能时的隐私基础问题。背景是:科学 AI(从基础模型 FM 到联邦数据分析流水线)正在成为国家实验室、大学、医院与产业伙伴共同依赖的共享基础设施;这种协作产生的隐私风险,其自然计量单元通常不是单条数据记录,而是某个机构的参与事实、研究策略或技术能力,即“机构级隐私”。现有防护手段——差分隐私(DP)、联邦学习(FL)、安全计算、可信执行环境、数据溯源——各自只保护技术栈的一部分,且在混合信任机构、多级访问层级和自治智能体共存的场景下,这些保证很难相互组合(compose),导致保证碎片化、难以审计。论文的核心方法是将科学 AI 隐私重新刻画为一个“保证(assurance)问题”,由六个要素定义:受保护资产、观察者、信道、允许披露、保证、证据;作者用一个面向复合跨机构场景的“声明登记册(claim register)”演示该框架,并用它沿模型全生命周期逐阶段评估。关键发现包括两个领导级超算设施特有的缺口:一是调度器、资源分配与遥测元数据会暴露机构的资源态势;二是附着在科学仪器上的控制回路会通过共享加速器上的时序与资源争用泄露研究策略。论文据此提出六项研究优先方向:机构级保证、智能体间通信隐私、跨信任层级的信息流、隐私兼容的可复现性、领导级规模的隐私核算、以及仪器侧信道。总体贡献是提供一个统一的形式化语言,用于陈述、比较与审计隐私声明,使原本分散在科学 AI 各层的保证变得可对比、可审计。适合超算中心与科研基础设施安全合规团队、联邦学习与差分隐私研究者、科研数据治理与 AI 治理人员阅读。

💡 推荐理由: DP、FL、TEE 等保证在跨机构、混合信任层级下无法组合,而调度/分配/遥测元数据与仪器控制回路的时序争用可能泄露机构资源态势与研究策略;安全团队需重新界定大型科研基础设施的隐私边界与审计口径。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)