#local-cloud-collaboration

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Yanmeng Wang, Yunxuan Li, Shilong Fan, Yuhan Zheng, Tsung-Hui Chang

随着本地小语言模型(SLM)与能力更强的云端大语言模型(LLM)协作日益普遍,一个自然的隐私问题浮现:本地 SLM 能否在获得云端 LLM 指导的同时保护用户隐私?现有隐私保护 SLM-LLM 框架主要隐藏敏感数值而保留任务语义,但任务语义本身仍会泄露用户意图。例如,跨医院分配稀缺医疗物资可能暗示公共卫生紧急事件,再平衡投资组合可能暴露私人投资策略,即便姓名与数值已被隐藏。近期基于诱饵(decoy)的方法把真实请求混入候选中以掩盖意图,但更强保护依赖更多诱饵或语义抽象,会推高开销或造成效用损失。更根本的是,现有工作没有系统刻画私有任务意图的组成,以及各组成部分应如何被保护。本文提出 task-private consultation 这一设定,将任务意图拆解为两个组成部分:任务上下文(task context)与任务操作(task operation)。作者称这是首个系统研究这两部分及其单独与联合保护的工作,面向本地-云端 SLM-LLM 咨询场景。为落地该设定,作者提出 PriCon 端到端框架,通过可恢复的数学重构(recoverable mathematical reformulation)直接变换任务本身,而非把任务藏在候选中;并设计本地闭环细化机制,在咨询全过程中维持隐私性与可恢复性。在 100 个任务上的实验显示,PriCon 将云端侧任务意图推断 Hit@1 降至接近 0%,而仅移除敏感值的方法为 93-99%,基于诱饵的保护为 3-30%,同时保持云端辅助效用。适合隐私保护机器学习、分布式/边缘推理、LLM 协作安全与合规审计方向的研究者与工程师阅读。

💡 推荐理由: 任务意图泄露是本地-云协同推理中长期被低估的隐私面。PriCon 给出可量化的意图保护指标与可恢复重构思路,可用来评估现有脱敏与诱饵方案的不足,并指导设计更安全的 SLM-LLM 协作协议。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)