推荐 5.5
Conf: 50%
本研究聚焦于大型语言模型(LLM)在对话中推断用户个人信息(如收入、病史等)所引发的隐私问题。以往研究已证明LLM能够做出潜在违反用户预期的推断,但用户对此类推断的实际感受及期望的控制机制尚不明确。为此,作者开发了“反思层”(Reflective Layer)可视化工具,它能够从用户的ChatGPT历史对话中提取出未明确陈述的推断示例。通过混合研究方法,对18名ChatGPT长期用户进行实验,共评估了215个从他们自身对话中提取的推断。出乎意料的是,参与者的主要反应是好奇和兴趣,而非困扰或担忧。不舒适感主要出现在推断被用户认为“不具代表性”或“与预期用途不符”时。此外,参与者对广告商或第三方应用使用这些推断的接受度显著低于平台提供商。这些发现表明,LLM推断的可接受性不仅取决于推断内容,还受到关于推断如何生成、在平台内保留以及传输到平台外部的上下文敏感性规范的制约。该研究为设计更符合用户期望的LLM隐私控制机制提供了实证依据。
💡 推荐理由: 揭示了LLM推理用户隐私信息时用户真实感受与隐私期望的差异,为安全从业者设计隐私保护机制、合规管理及用户界面提供重要参考。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)