#social-media

共收录 4 条相关安全情报。

← 返回所有主题
👥 作者: Elham Pourabbas Vafa, Sayak Saha Roy, Shirin Nilizadeh

该研究系统地展示了如何滥用公开社交媒体数据和生成式AI(GenAI)来自动化、规模化地发起高度个性化且上下文感知的鱼叉式钓鱼攻击。研究者构建了一个模块化框架,涵盖多模态信号提取、沟通风格画像以及七种攻击策略(诱饵、恐吓软件、蜜罐、尾随、冒充、交换条件、个性化情感利用)的实例化。通过大规模多模型评估,对数千封生成邮件和八个安全相关性标准进行评测,并与真实钓鱼邮件语料库对比。结果表明,GenAI生成的邮件在个性化、上下文依据和说服力上显著更高。补充的用户研究进一步揭示,LLM生成的攻击在八个维度上持续优于APWG eCrimeX邮件,同时引发更低的怀疑。文章还分析了现有主动式提示层防御机制、策略增强的SOTA防护模型以及系统指令链式审核等补充防御方法,记录了这些防御如何响应上下文化和自适应攻击提示,强调了平台级防护考虑规模化上下文滥用的必要性。

💡 推荐理由: 本研究揭示了生成式AI和公开社交媒体数据结合可大幅降低自动化鱼叉式钓鱼的门槛和成本,对现有邮件安全防御构成新挑战,安全从业者需关注此类上下文感知攻击的检测与缓解。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Kyle Beadle, Kieron Ivy Turk, Aliai Eusebi, Mindy Tran, Marilyne Ordekian, Enrico Mariconti, Yixin Zou, Marie Vasek

该论文是一篇系统化知识综述(SoK),旨在为使用社交媒体数据进行安全研究的隐私问题提供一个分析框架。研究背景在于,社交媒体数据常包含个人敏感信息,尽管已有关于此类研究伦理的广泛讨论,但针对具体隐私风险及缓解措施的精细分析仍不足。作者从计算机科学、社会科学、人机交互、法学、犯罪学等多个学科中,系统梳理了16年间(2004-2020)使用社交媒体数据研究安全议题的601篇论文。主要发现包括:仅有35%的论文提及数据匿名化、可用性和存储方面的考虑,表明透明度严重缺乏。作者应用Solove的隐私风险分类法对社交场景中的隐私风险进行归类,发现Solove的分类法能有效捕捉聚合风险,但现代数据科学中数据的规模、时效性和微观细节带来了20年前未考虑的新风险。论文贡献在于揭示了当前学术实践中对隐私保护的不足,并为研究人员、伦理委员会和出版机构提出了改进建议,主张通过一些小的行为改变即可显著提升用户隐私保护水平。该研究适合安全领域研究者、学术伦理审查者以及关注研究数据隐私的从业者阅读。

💡 推荐理由: 系统揭示了过去16年安全研究中使用社交媒体数据时隐私保护的严重不足,为学术界建立更严格的隐私规范提供了坚实证据。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Alessandro Galeazzi, Pujan Paudel, Mauro Conti, Emiliano De Cristofaro, Gianluca Stringhini

本研究通过大规模定量分析Twitter/X推荐算法对内容可见性的影响,揭示平台存在系统性可见性调节现象。研究基于两个大型数据集:乌克兰-俄罗斯冲突相关推文(约2000万条,涉及500万用户)和2024美国总统大选相关推文(约2000万条,涉及400万用户),总计超过4000万条推文和900万用户。研究利用推文视图计数作为可见性指标,检测可见性降低(即影子禁令)或放大的模式,并分析其与用户观点、社会角色和叙事框架的关联。关键发现包括:1)算法系统性惩罚包含外部链接的推文,将其可见性降低高达8倍,无论链接内容的意识形态立场或来源可靠性如何;2)不同账户的推文可见性存在显著差异,例如基辅独立报与RT.com、唐纳德·特朗普与卡玛拉·哈里斯的推文可见性模式相反。研究指出,这种不透明的可见性调节可能被用于压制异见声音或操纵信息曝光,呼吁提高推荐系统和内容审核的透明度,以保护公共话语的完整性和平台访问的公平性。该工作适合关注平台治理、算法透明度、社交媒体分析的研究者及政策制定者阅读。

💡 推荐理由: 本文揭示了社交媒体算法如何暗中操纵内容可见性,可能影响公共舆论和选举公平,为平台透明度监管提供实证依据。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Filipo Sharevski, Verena Distler, Florian Alt

该论文研究了社交媒体平台上的软审核(soft moderation)对用户感知不真实政治内容准确性和分享意图的影响。研究者以X平台(原Twitter)为背景,通过在线实验(N=约1000名美国参与者)呈现带有不同软审核标签(如“虚假信息”、“有争议”等)的政治推文,测量用户对内容准确性的感知和分享意愿。结果显示,软审核标签显著降低了用户对不真实内容的准确性评价,并减少了分享意图,但这种效果因用户政治倾向和内容类型(左翼vs右翼)而异。此外,软审核对低可信度内容的抑制作用更强,但对高可信度内容影响较小。论文还探讨了用户对软审核机制的信任度及可能产生的“逆火效应”。研究建议平台应采用更透明的标签设计,并考虑用户特征以提升审核效果。该工作为内容审核策略提供了实证依据,对社交工程防御和虚假信息治理有参考价值。

💡 推荐理由: 虚假信息是社交工程的关键载体,了解软审核如何影响用户决策有助于安全团队设计更有效的安全提示和培训,提升组织对信息操纵的抵抗力。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)