#misinformation

共收录 4 条相关安全情报。

← 返回所有主题
推荐 9.5
Conf: 50%
👥 作者: Filipo Sharevski, Amy Devine, Emma Pieroni, Peter Jachim

该论文针对社交媒体上的错误信息(misinformation)展开了一项用户认知层面的实证研究,核心关注点是普通用户如何自发形成对错误信息的‘民间模型’(folk models),而非仅仅考察错误信息引发的焦虑、紧张或社会分裂等结构性影响。研究团队招募了235名社交媒体用户作为样本,通过定性与定量相结合的方式收集数据,重点分析用户在日常信息流中如何识别、解读、判断并最终内化或抵制错误信息。论文指出,既有研究往往聚焦于错误信息的传播机制或情绪后果,却忽视了个体在自然状态下的认知处理过程,因此容易直接开出‘接种疫苗’式的干预处方,但这种思路预设了用户对错误信息缺乏免疫力,而实际上用户可能已经通过自身经验形成了某种‘自然免疫’能力。作者试图填补这一空白,将用户对错误信息的理解方式归纳为若干种民间模型,这些模型反映了用户在真实场景中面对可疑内容时的判断依据、归因逻辑和应对策略。研究的主要贡献在于提供了一种以用户为中心的分析框架,强调错误信息韧性(resilience)不仅取决于外部干预,更依赖于用户在媒介环境中逐步积累的认知技能。论文适合研究社交媒体平台治理、信息素养教育、以及人机交互中信任机制设计的研究者和从业者阅读,也为后续开发更贴合用户实际认知的谣言检测或用户赋能工具提供了理论依据。不过,当前仅能获取论文摘要,尚无法验证其具体方法论细节、样本代表性以及结论的统计显著性;所有对研究过程与结果的描述均基于摘要文本的转述。

💡 推荐理由: 本文从用户认知视角切入错误信息治理,挑战了常见的‘免疫缺失’假设,有助于安全团队理解目标用户为何会信谣/辟谣,从而设计更贴合真实情境的对抗性宣传防御策略。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Filipo Sharevski, Verena Distler, Florian Alt

该论文研究社交媒体平台X(原Twitter)上的‘软性审核’(如事实核查标签、警告标签)对用户感知不真实政治内容准确性及分享意图的影响。通过实验方法,作者探讨了软性审核措施如何改变用户对虚假或误导性政治信息的认知,并分析了这些措施在实际平台中的效果。研究发现,软性审核标签能显著降低用户对不真实内容的准确性判断,并减少其分享意愿,但效果受用户政治倾向和内容类型影响。该工作为内容审核策略提供了实证依据,有助于理解用户行为与平台干预之间的互动。

💡 推荐理由: 帮助安全分析师理解社交媒体平台上的虚假信息对抗手段的实际效果,为设计更有效的用户警示和内容标注策略提供参考。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.3)
推荐 9.4
Conf: 50%
👥 作者: Filipo Sharevski, Jennifer Vander Loop

该论文通过混合研究方法,探讨儿童与父母在社交媒体上遭遇虚假信息的经历与认知。研究首先对87名家长进行定性调查,随后对12对父母与儿童进行半结构化访谈。结果发现,儿童能够识别虚假信息为社交媒体上用于欺骗的内容,例如深度伪造、政治迷因或名人谣言。令人关注的是,儿童在验证信息真伪时,倾向于先询问Siri等语音助手,而非直接向父母求助或使用谷歌搜索。父母普遍对孩子易受虚假信息影响感到担忧,并认为自身承担着培养孩子批判性思维的主要责任,同时多数父母主张学校也应加强媒体素养教育。研究还发现,虚假信息可能加剧家庭内部矛盾,尤其当祖辈持有不同政治观点时。论文强调了儿童作为脆弱群体的特殊性,并为社交媒体平台、教育者及政策制定者提供了针对性的启示。

💡 推荐理由: 揭示了儿童与父母在虚假信息认知与应对上的真实行为模式,对设计儿童网络安全教育、家庭干预策略及社交媒体内容治理具有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Lingwei Wei, Dou Hu, Wei Zhou, Songlin Hu, Philip S. Yu

该论文系统性地探讨了大语言模型(LLM)在虚假信息生态系统中的多重角色与影响。作者指出,LLM已将虚假信息从单纯的内容问题转变为生态系统级别的安全挑战。当被滥用时,LLM不仅能够生成虚假内容,还能攻击虚假信息防御所依赖的社会语境、证据来源、检索语料库和验证工作流。为此,论文提出了一个角色-层次框架来统一分析相关风险与防御:角色维度将LLM刻画为攻击者、防御者以及验证系统的脆弱组件;层次维度则涵盖内容、社会语境、证据环境和验证工作流。基于该框架,论文梳理了LLM使能的攻击手段,调研了基于LLM的检测与验证方法,分析了以LLM为中心的检测范式中的脆弱性,并讨论了现有的对抗LLM攻击的防御措施。最后,论文指出了三大开放挑战:从静态检测准确率转向预算约束的生态系统级风险评估、加固以LLM为中心的验证流水线以抵御对抗操纵、部署可审计的人机协同验证系统以实现可信的真实世界虚假信息防御。本文适合安全研究人员、虚假信息分析师及LLM系统开发人员阅读。

💡 推荐理由: 首次从生态系统视角统一分析LLM在虚假信息攻防中的角色,为设计更鲁棒的防御体系提供了理论框架。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)