推荐 5.5
Conf: 50%
本研究针对 AI 驱动的教育系统在隐私保护与准确认知诊断之间难以兼顾的显著挑战,提出了一种隐私保护的多 LLM 联邦推理框架。传统方法通常需要集中学生原始数据或直接访问商业模型内部,导致隐私风险。该框架允许多个商业 LLM API(例如 LLaMA-3.3-70B、GPT-4o-mini、Claude-3-Haiku)协作,而无需暴露原始学生数据或专有模型内部参数。框架建立在异构多 LLM 架构之上,不同模型各自生成预测结果。为保障隐私,每个实体的预测输出在本地添加拉普拉斯噪声,实现 ε-局部差分隐私,然后再进行聚合;同时采用基于残差的聚合机制来缓解模型异构性带来的偏差。该设计基于诚实但好奇的信任模型,即假定 API 提供商不会滥用提交的查询,同时差分隐私机制能够保护最终的诊断结果免受外部推理攻击。作者进行了严格的隐私-效用分析,证明在获得强隐私保证的同时仅产生极小的精度损失。三个教育基准数据集上的真实世界广泛实验验证了其实用性和跨领域泛化能力。核心贡献在于提出一个通用、可落地的多 LLM 联邦推理架构,在利用多个商业模型集成优势的同时,从算法层面确保了学生数据隐私,为教育场景中人工智能应用的安全性设计提供了新的思路。
💡 推荐理由: 为依赖外部大模型的教育或类似敏感领域的系统提供了隐私保护集成范式,展示了如何在多 LLM 协同中落地差分隐私,为安全设计提供可参考架构。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)