#chatbot

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Kai-Hsiang Chou, Yi-Min Lin, Yi-An Wang, Jonathan Weiping Li, Tiffany Hyun-Jin Kim, Hsu-Chun Hsiao

本论文针对群组聊天平台中聊天机器人带来的隐私风险进行了深入研究。研究发现,聊天机器人往往能够访问超出其功能所需的消息,包括发送者身份和并非针对机器人的消息内容,这可能导致用户个人信息泄露、跨群组追踪以及针对性广告等问题。通过对实际对话数据集的分析,作者发现聊天机器人经常访问过多消息,并且当用户加入一个包含聊天机器人的新群组时,有3.6%的概率至少有一个机器人能够识别该用户并将其与之前在其他群组中的交互关联起来。现有加密协议虽能提供端到端加密,但未能有效限制聊天机器人的访问权限。为此,论文提出了SnoopGuard协议,这是一种安全的群组消息协议,能够在保障端到端安全的同时保护用户隐私。SnoopGuard实现了选择性消息访问(防止机器人访问无关消息)和发送者匿名(对机器人隐藏用户身份)。该协议的消息发送复杂度为O(log n + m),其中n为用户数,m为机器人数量,相较于现有协议的O(log(n + m))略有增加,但隐私增强的收益可接受。原型实现表明,在集成消息层安全(MLS)的情况下,向一个包含50名用户和10个机器人的群组发送消息大约需要10毫秒。本文主要贡献在于揭示了群组聊天中机器人的隐私风险,并设计了一个实用的隐私保护协议。适合安全研究人员、协议设计者以及群组聊天平台开发者阅读。

💡 推荐理由: 随着聊天机器人广泛应用于群组聊天,用户隐私面临新的威胁。本文揭示了机器人过度访问消息和跨群组关联用户的风险,并提出了可落地的隐私保护协议,对提升即时通讯安全具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)