#user-trust

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Jaron Mink, Licheng Luo, Natã M. Barbosa, Olivia Figueira, Yang Wang 0005, Gang Wang 0011

本文研究了在线社交网络中用户对AI生成的个人资料(即深度伪造资料)的信任程度。研究通过设计实验,让参与者评估真实与AI生成的个人资料的可信度,发现用户难以区分真实与伪造资料,且对伪造资料的信任度较高。论文提出了一个名为DeepPhish的框架,用于生成高度逼真的伪造社交资料,并分析了用户信任的影响因素。实验结果表明,用户对个人资料的信任主要基于资料中的视觉元素(如头像)和文本信息(如个人简介),而AI生成的资料在这些方面已经达到与真实资料难以区分的水平。研究还发现,用户的信任决策受到其社交媒体使用经验的影响,但总体趋势是容易被伪造资料欺骗。这项工作揭示了社交工程攻击的新趋势,即利用AI生成虚假个人资料进行钓鱼攻击,并强调了提高用户警觉性和开发检测工具的必要性。

💡 推荐理由: 该研究揭示了AI生成虚假社交资料对用户信任的威胁,为防御社交工程攻击提供了重要参考。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Youngwook Do, Nivedita Arora, Ali Mirzazadeh, Injoo Moon, Eryue Xu, Zhihan Zhang 0002, Gregory D. Abowd, Sauvik Das

该论文针对智能音箱麦克风持续监听引发的用户隐私信任问题,提出了一种名为“有意供电”(Intentional Powering)的硬件设计范式。传统智能音箱麦克风始终通电,用户无法直观判断录音状态,导致隐私担忧。作者设计了一种新型麦克风系统:麦克风仅在用户明确意图(如按下物理按钮或说出唤醒词)时由用户可控的电源电路供电,同时提供“可感知保证”(Perceptible Assurance),即通过LED灯光、振动或声音反馈实时指示麦克风是否处于录音状态。论文构建了原型设备,并开展用户研究(N=24),对比传统“始终监听”模式和本方案。结果显示,有意供电显著提升了用户对隐私控制的感知、信任度和使用意愿,而功能体验(如语音助手响应速度)未受实质影响。主要贡献包括:提出并验证了一个兼顾隐私与可用性的麦克风供电架构;提供了用户信任的量化评估;为消费电子产品的隐私透明设计提供了可借鉴的思路。

💡 推荐理由: 智能音箱普及伴随用户对持续监听的担忧,本研究通过硬件级创新直接回应信任痛点,为隐私透明设计提供了可落地的工程范式。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)