#healthcare

共收录 8 条相关安全情报。

← 返回所有主题
👥 作者: Pouya Rajabi, Mohsen Toorani

该论文针对临床脑电图(EEG)数据在联邦学习场景中的隐私泄露问题,提出了一种基于掩码安全聚合(masking-based secure aggregation)的隐私保护联邦学习框架。传统联邦学习虽然允许医疗机构在不共享原始EEG数据的情况下协作训练共享模型,但攻击者仍可能从模型更新中推断敏感信息。为此,作者将安全聚合作为核心保护机制,并结合多种技术构建完整方案:基于图的通信架构、阈值秘密共享、抗掉线(dropout-resilient)聚合、本地更新裁剪(clipping)、可选的基于布隆过滤器的隐私保护记录链接初始化模块,以及基于辅助公证人(auxiliary notary)的可验证性机制。该框架同时支持半诚实(semi-honest)和恶意(malicious)聚合设置,并基于Flower联邦学习框架实现。实验采用TUH EEG衍生数据,在模拟的跨机构(cross-silo)医疗环境中,对不同客户端配置下的安全聚合变体进行评估。结果表明,在既定假设下,安全变体能够对聚合服务器隐藏个体更新,并且与联邦模型训练保持兼容;然而,恶意设置下的防护机制和轻量级一致性检查机制会带来额外的计算、通信和轮次延迟开销。其中,半诚实变体在安全配置中开销最低,而恶意设置和辅助公证人变体虽然成本更高,但提供了更强的一致性、完整性和轻量级验证支持。该研究适用于医疗AI隐私保护、联邦学习安全加固以及需要跨机构协作但高度敏感的数据场景。

💡 推荐理由: 临床脑电数据高度敏感,联邦学习仍需防范梯度泄露。该工作系统性地将安全聚合落地于EEG场景,为医疗AI合规与隐私保护提供了工程参考。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Davis Yadav, Amulya Yadav

本文研究大型语言模型(LLM)在医疗场景中内置安全防护的鲁棒性问题,以AI辅助医疗记录篡改为具体案例。作者做出了四项贡献:第一,开发了一个可复现的篡改流水线,利用公开的医疗记录模板,通过商用LLM替换患者姓名、提供者身份、日期和医疗条件,跨多个模型家族、输入格式和提示措辞生成定制化篡改记录。第二,对LLM防护机制在医疗记录篡改方面的鲁棒性进行了系统实证评估,结果显示当前商用LLM防护存在显著弱点和不一致性,包括多个模型家族的低拒绝率。第三,结合自动评估指标和人工标注指标,评估了请求篡改的正确性。第四,通过用户研究评估篡改医疗记录的可信度,发现最佳篡改在视觉上与原始文档难以区分。最后,讨论了负责任的LLM防护设计、AI安全政策以及医疗场景部署LLM的伦理启示。

💡 推荐理由: 揭示LLM在关键医疗场景下安全防护的脆弱性,对依赖LLM的医疗应用构成严重风险,提醒安全从业者需重新评估防护机制的有效性。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
推荐 11.4
Conf: 50%
👥 作者: Noam Barkay, Yair Motro, Jacob Moran-Gilad, Rami Puzis

本文研究了新冠病毒PCR检测供应链的安全性问题。PCR检测是疫情防控的核心手段,但其供应链涵盖试剂生产、冷链物流、实验室分析及数据上报等环节,每个环节都可能成为攻击目标。作者首先识别了供应链中的关键脆弱点,如试剂成分被替换或稀释、温度监控失效导致样本降解、检测结果被中间人篡改等。针对这些风险,论文提出了一种基于区块链的供应链追踪与验证框架,通过将每个环节的关键数据(试剂批号、温度记录、操作人员、检测结果哈希)记录到不可篡改的分布式账本上,实现全流程可追溯性。同时引入智能合约自动执行合规检查,当检测到异常(如温度超限、时间戳不连续)时触发警报。在仿真实验中,该框架成功检测出90%以上的模拟攻击场景,并能在秒级内完成验证。但框架的实时性受限于区块链确认延迟,且部署需要改造现有流程,成本较高。论文还讨论了隐私保护方案,如使用零知识证明隐藏具体数据内容。本文为医疗供应链安全提供了新的技术思路,但尚未经过真实大规模部署验证。适合从事医疗网络安全、供应链安全及区块链应用的研究人员阅读。

💡 推荐理由: PCR检测结果的真实性直接影响疫情防控决策链,供应链攻击可能导致假阴性或假阳性结果,进而引发公共卫生危机。本工作首次系统化分析了这一关键链路的安全威胁并给出技术方案。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Karina Elzer, Alberto Mongardini, Ricardo Yaben, Georgios Theodoridis, Alexandra Babanuta, Nawras Mouala, Emmanouil Vasilomanolakis

医疗影像系统(如DICOM和PACS)的安全性至关重要,因为其暴露可能危及敏感患者数据和临床操作。然而,现有的针对DICOM的防御工具(如蜜罐)交互能力有限,容易被攻击者识别指纹而规避。本文提出了DICOMHawk,一种面向医疗成像基础设施的网络欺骗框架。该框架通过模拟真实的DICOM和PACS服务行为,动态填充逼真的医疗记录,并嵌入蜜标(honeytoken)来增强诱饵的真实性。研究者进行了两项实验:一项为期86天的对比测试(与现有Dicompot蜜罐对比),另一项为期347天跨多个网络的部署。结果表明,DICOMHawk吸引了比Dicompot更多的有效会话,成功避免了蜜罐检测,并捕获了49个针对医疗系统的攻击。这些结果证明,通过构建长期、多位置、高交互性的欺骗环境,可以显著提升对威胁的可见性。DICOMHawk为医疗行业提供了一种新的防御手段,有助于早期发现针对PACS和DICOM基础设施的攻击活动。

💡 推荐理由: 医疗数据泄露后果严重,而现有DICOM蜜罐易被绕过。DICOMHawk通过高仿真欺骗提升检测能力,为医疗安全团队提供了更有效的威胁感知工具。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ilef Chebil, Asma El Hadj, Souheib Yousfi, Aroua Hedhili, Layth Sliman

本文提出了一个名为 PriEval-Protect 的统一框架,用于医疗保健系统中的隐私风险评估与保护。当前,在 GDPR 和 HIPAA 等法规下,保护患者隐私并同时允许有意义的医疗数据使用至关重要,但现有合规方法通常依赖人工,容易出错,且将政策审计与数据级评估割裂。PriEval-Protect 采用两阶段设计:评估阶段结合了基于微调法律大语言模型(LLM)与检索增强生成(RAG)的监管合规评分,以及通过加密类型、数据架构和多种度量指标(包括相似度、不确定性、攻击者成功率、信息增益/损失)进行的技术分析。利用层次分析法(AHP)对各类指标进行加权聚合,得出综合风险评分。保护阶段则根据评估的风险推荐相应的防护措施,例如联邦学习和差分隐私。作者在真实医院文档和数据集上进行了实验,结果表明该框架能提供与法规对齐且可解释的评估,有效弥合了法律合规与数据级风险分析之间的鸿沟。该工作对于需要自动化隐私合规评估的安全团队、合规官以及医疗行业的数据保护从业者具有参考价值。

💡 推荐理由: 该框架首次将法律合规评分与数据级技术风险分析统一,为SOC和合规团队提供自动化、可解释的隐私风险评估,有助于减少人工审计错误,应对监管压力。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Liam Kearns

该论文聚焦于基于代理的AI系统(agent-based AI)在医疗报告生成应用中的安全风险与缓解措施。通过将AI代理暴露给多个工具和资源,LLM能够自动化复杂任务,但为了提升功能和准确性,代理常被授予超出普通用户的权限,这可能导致数据泄露和法规违规。论文应用了AI信任、风险与安全管理(TRiSM)框架,将不安全的代理工作流改造为安全意识的代理工作流。作者针对医疗报告生成场景,设计了两种工作流(不安全 vs. TRiSM引导),并使用五种LLM(Claude Haiku 4.5, GPT-4.1-nano, GPT-4.1-mini, GPT-5.4-mini, Gemini 2.5 Flash)在两种报告类型上进行了评估,总计800次生成和500个攻击场景(包括RAG投毒、数据字段注入、客户端网络注入)。实验结果表明:TRiSM引导的代理工作流将RAG投毒的平均攻击成功率从31%降至10%,数据字段注入从42%降至25%,并通过服务器端提示构建完全消除了网络注入向量。此外,报告准确率从72.5%提升至86.5%(增加14个百分点),证明了安全设计能同时提高输出可靠性。论文的贡献在于展示了最小权限、深度防御的代理工作流可以改善安全性和准确性,同时强调了模型选择是架构中必要的考量因素。适合安全研究人员、AI开发者和医疗IT从业者阅读。

💡 推荐理由: 该研究将TRiSM框架系统性地应用于医疗AI代理,量化了安全加固带来的攻击率下降和准确率提升,为构建可信LLM代理提供了实证参考。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Xixi Tian, Di Wu, Xiang Liu, Yiziting Zhu, Yujie Li, Xin Shu, Bin Yi

该论文研究了联邦学习在跨中心败血症早期预测中的应用。败血症早期预测需要多中心医疗数据,但数据隐私和分布式特性阻碍了集中式建模。联邦学习允许多个机构在不共享原始数据的情况下联合训练模型,但其实际性能、鲁棒性和隐私保护优势尚未在真实临床数据中得到充分评估。为此,作者从中国三家三级医院收集了648个临床筛选样本,并制定了严格的纳入排除标准。他们建立了集中式训练范式作为性能基线,然后实现了水平联邦学习框架进行分布式协同建模。大量实验表明,基于联邦学习的模型在预测准确性上与集中式模型高度接近,同时从根本上避免了隐私泄露。进一步的隐私安全分析验证了恶意攻击者无法从传输的模型参数中重建原始患者数据,表明其具有很强的抗数据重建攻击能力。这项工作不仅验证了联邦学习在临床败血症预测中的实用性和安全性,也为隐私保护的多中心医疗协作提供了可靠且可行的解决方案。

💡 推荐理由: 该研究展示了联邦学习在医疗隐私保护场景下的实际可行性,对于处理敏感医疗数据的跨机构协作具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zhihuang Liu, Ling Hu, Tongqing Zhou, Yonghao Tang, Zhiping Cai

本研究聚焦于中国用户在使用基于大语言模型(LLM)的医疗咨询服务时的隐私意识与期望。随着LLM在医疗领域的广泛应用,用户隐私问题日益突出。研究通过问卷调查和访谈,探索用户对医疗聊天机器人隐私实践的认知、担忧以及期望。核心发现是:尽管用户普遍关注隐私,但由于LLM医疗咨询的便捷性和普及性(即“普及性压倒关注”),用户往往在行为上妥协,对隐私风险认知不足。研究还揭示用户对数据存储、共享和匿名化有特定期望,但现有系统未充分满足。论文通过定性和定量方法,揭示了用户隐私态度与行为之间的差距,为设计更符合用户预期的隐私保护机制提供了依据。主要贡献包括:1)构建了中国用户对LLM医疗咨询隐私期望的理论框架;2)识别了影响用户隐私决策的关键因素;3)提出了面向开发者和政策制定者的隐私增强建议。适合隐私研究员、LLM应用开发者、医疗科技政策制定者阅读。

💡 推荐理由: LLM医疗咨询正快速普及,用户隐私风险剧增。本文揭示了中国用户隐私认知与期望的特殊性,有助于安全从业者理解用户侧风险,从而设计更符合合规与用户信任的防护方案。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)