#social-media

共收录 8 条相关安全情报。

← 返回所有主题
👥 作者: Mohsen Minaei, S. Chandra Mouli, Mainack Mondal, Bruno Ribeiro 0001, Aniket Kate

在社交媒体平台上,用户常因过度分享不恰当的想法或个人隐私而后悔,并倾向于删除这些内容以弥补过失。然而,删除行为本身反而成为恶意攻击者追踪隐私信息的信号:攻击者通过大规模监控删除操作,能够识别出被删除内容可能对用户有害,从而侵犯用户隐私。现有的一些存档服务已经在扫描社交媒体获取删除的帖子,且研究表明强大的机器学习模型可以高效检测出具有危害性的删除。为抵御这种全球性攻击,本文提出了一种名为“欺骗性删除”(Deceptive Deletion)的诱饵机制。该机制通过注入虚假的删除操作,构建一个挑战者(平台/用户)与攻击者之间的两人零和博弈:攻击者试图从所有删除的帖子中分类出真正有害的内容,而挑战者则利用诱饵删除来掩盖真实的危害删除行为。作者形式化了这个博弈过程,推导出攻击者或挑战者分别获胜的条件,并讨论了中间过渡场景。通过在Twitter真实数据上模拟实验,验证了该机制的有效性:强大的全球攻击者可以被同样强大的挑战者击败,从而显著提升用户遗忘的权利。该工作为社交媒体隐私保护提供了新的思路。

💡 推荐理由: 该研究揭示了“删除即信号”这一隐私风险,并提出了一种可部署的对抗机制,帮助防御者理解并缓解因用户删除行为引发的隐私泄露问题。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zifan Peng, Yini Huang, Aiwen Lu, Qiming Ye, Peixian Zhang, Jingyi Zheng, Yule Liu, Xuechao Wang, Xinlei He, Jiaheng Wei

该论文聚焦于社交媒体平台上用户级隐私泄露问题。现有研究缺乏统一的基准来评估多模态(文本、图像、元数据)隐私泄露,且衡量指标多为二元准确率,无法捕捉暴露严重程度。为此,作者基于Rednote和Instagram的私有参考语料库提炼泄露模式,构建了SopriBench基准,包含50个用户画像、1569张图像,并标注了属性、上下文敏感性、粒度、泄露类型、推理难度和支持证据。同时,引入隐私暴露评分(PES),通过上下文敏感性加权粒度值。进一步,受溯因推理启发,提出无需训练的智能体框架Argus,从累积证据中形成假设,验证支持证据,并聚合跨帖子线索生成隐私画像。实验表明,Argus达到0.55 PES,比最强基线提升25%,尤其在跨帖子泄露场景下效果显著。这项工作为社交平台隐私泄露评估提供了标准化工具和高效分析方法。

💡 推荐理由: 社交平台隐私泄露威胁日益严重,现有评估方法碎片化。该工作首次构建多模态、用户级的综合基准和量化评分,并推出无需微调的智能体推理框架,显著提升跨帖子隐私推断能力。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Carson Powers, Nickolas Gravel, Christopher Pellegrini, Micah Sherr, Michelle L. Mazurek, Daniel Votipka

本研究探讨社交媒体平台验证政策变化(如Twitter(现X)在2022年后调整的蓝色验证标记政策)如何影响用户对已验证账户的感知和信任。传统上,蓝色验证标记被视为可信机构认证的权威标识,但平台将验证开放给付费订阅者后,验证标记的可靠性受到质疑。研究人员通过在线实验,招募参与者对不同类型账户(如名人、记者、普通用户)在政策变化前后的可信度、权威性和真实性进行评分。实验还考察了验证标记与用户关注状态、账户类型之间的交互效应。结果表明,政策变化显著降低了用户对已验证账户的整体信任,尤其是对低知名度账户;用户更倾向于依赖其他信号(如粉丝数、内容质量)而非验证标记。研究还发现,用户对验证标准的理解存在混乱,许多人误以为验证仍代表官方认证。该研究对社交媒体平台的安全设计、用户隐私保护及虚假信息对抗具有重要启示。

💡 推荐理由: 验证政策变化影响用户对账户真实性的判断,可能被利用于社会工程攻击或声誉操纵;安全从业者需了解此类信任机制变化对用户行为的影响。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Hiroki Nakano, Takashi Koide, Daiki Chiba

本文提出 TIBlender,一个基于多智能体 LLM 的跨平台社交媒体威胁情报早期预警系统。当前网络安全威胁信号分散于多个社交媒体平台(如 X、Reddit、Telegram 和 Discord),尚未有方法能完全自动化地将这些碎片化信息整合为可操作的威胁情报(TI)报告。TIBlender 通过角色专用的 LLM 智能体,对四个平台进行实时监控,并开展多视角调查,追踪证据链以发现相关的入侵指标(IoC)。在实际部署中,TIBlender 能够在四种威胁类别(漏洞利用、恶意软件、钓鱼、僵尸网络)中提前于公共 feed 检测到新兴威胁,包括在公开漏洞库尚未收录时即发现野外利用。其提取的 IoC 大部分未被现有任何流行的威胁情报 feed 收录。定量评估进一步证实:每个平台贡献了其他平台无法提供的独特威胁信息;若排除任一平台,特定威胁类别的报告量将显著下降。与单平台基线相比,TIBlender 在相同输入条件下的 IoC 提取性能达到或超过基线水平,而完整流水线可发现更多 IoC,且大部分 IoC 不存在于任何单平台基线中。这些结果证明了跨平台社交媒体监控作为运营 TI 管道中一种有效且可扩展的早期预警层的能力。

💡 推荐理由: 该研究首次实现了跨多个社交媒体平台的自动化威胁情报整合,能够比传统 feed 更早捕获新兴威胁,对于 SOC 分析师和威胁情报团队具有重要的预警价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Elham Pourabbas Vafa, Sayak Saha Roy, Shirin Nilizadeh

该研究系统地展示了如何滥用公开社交媒体数据和生成式AI(GenAI)来自动化、规模化地发起高度个性化且上下文感知的鱼叉式钓鱼攻击。研究者构建了一个模块化框架,涵盖多模态信号提取、沟通风格画像以及七种攻击策略(诱饵、恐吓软件、蜜罐、尾随、冒充、交换条件、个性化情感利用)的实例化。通过大规模多模型评估,对数千封生成邮件和八个安全相关性标准进行评测,并与真实钓鱼邮件语料库对比。结果表明,GenAI生成的邮件在个性化、上下文依据和说服力上显著更高。补充的用户研究进一步揭示,LLM生成的攻击在八个维度上持续优于APWG eCrimeX邮件,同时引发更低的怀疑。文章还分析了现有主动式提示层防御机制、策略增强的SOTA防护模型以及系统指令链式审核等补充防御方法,记录了这些防御如何响应上下文化和自适应攻击提示,强调了平台级防护考虑规模化上下文滥用的必要性。

💡 推荐理由: 本研究揭示了生成式AI和公开社交媒体数据结合可大幅降低自动化鱼叉式钓鱼的门槛和成本,对现有邮件安全防御构成新挑战,安全从业者需关注此类上下文感知攻击的检测与缓解。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Kyle Beadle, Kieron Ivy Turk, Aliai Eusebi, Mindy Tran, Marilyne Ordekian, Enrico Mariconti, Yixin Zou, Marie Vasek

该论文是一篇系统化知识综述(SoK),旨在为使用社交媒体数据进行安全研究的隐私问题提供一个分析框架。研究背景在于,社交媒体数据常包含个人敏感信息,尽管已有关于此类研究伦理的广泛讨论,但针对具体隐私风险及缓解措施的精细分析仍不足。作者从计算机科学、社会科学、人机交互、法学、犯罪学等多个学科中,系统梳理了16年间(2004-2020)使用社交媒体数据研究安全议题的601篇论文。主要发现包括:仅有35%的论文提及数据匿名化、可用性和存储方面的考虑,表明透明度严重缺乏。作者应用Solove的隐私风险分类法对社交场景中的隐私风险进行归类,发现Solove的分类法能有效捕捉聚合风险,但现代数据科学中数据的规模、时效性和微观细节带来了20年前未考虑的新风险。论文贡献在于揭示了当前学术实践中对隐私保护的不足,并为研究人员、伦理委员会和出版机构提出了改进建议,主张通过一些小的行为改变即可显著提升用户隐私保护水平。该研究适合安全领域研究者、学术伦理审查者以及关注研究数据隐私的从业者阅读。

💡 推荐理由: 系统揭示了过去16年安全研究中使用社交媒体数据时隐私保护的严重不足,为学术界建立更严格的隐私规范提供了坚实证据。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Alessandro Galeazzi, Pujan Paudel, Mauro Conti, Emiliano De Cristofaro, Gianluca Stringhini

本研究通过大规模定量分析Twitter/X推荐算法对内容可见性的影响,揭示平台存在系统性可见性调节现象。研究基于两个大型数据集:乌克兰-俄罗斯冲突相关推文(约2000万条,涉及500万用户)和2024美国总统大选相关推文(约2000万条,涉及400万用户),总计超过4000万条推文和900万用户。研究利用推文视图计数作为可见性指标,检测可见性降低(即影子禁令)或放大的模式,并分析其与用户观点、社会角色和叙事框架的关联。关键发现包括:1)算法系统性惩罚包含外部链接的推文,将其可见性降低高达8倍,无论链接内容的意识形态立场或来源可靠性如何;2)不同账户的推文可见性存在显著差异,例如基辅独立报与RT.com、唐纳德·特朗普与卡玛拉·哈里斯的推文可见性模式相反。研究指出,这种不透明的可见性调节可能被用于压制异见声音或操纵信息曝光,呼吁提高推荐系统和内容审核的透明度,以保护公共话语的完整性和平台访问的公平性。该工作适合关注平台治理、算法透明度、社交媒体分析的研究者及政策制定者阅读。

💡 推荐理由: 本文揭示了社交媒体算法如何暗中操纵内容可见性,可能影响公共舆论和选举公平,为平台透明度监管提供实证依据。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Filipo Sharevski, Verena Distler, Florian Alt

该论文研究了社交媒体平台上的软审核(soft moderation)对用户感知不真实政治内容准确性和分享意图的影响。研究者以X平台(原Twitter)为背景,通过在线实验(N=约1000名美国参与者)呈现带有不同软审核标签(如“虚假信息”、“有争议”等)的政治推文,测量用户对内容准确性的感知和分享意愿。结果显示,软审核标签显著降低了用户对不真实内容的准确性评价,并减少了分享意图,但这种效果因用户政治倾向和内容类型(左翼vs右翼)而异。此外,软审核对低可信度内容的抑制作用更强,但对高可信度内容影响较小。论文还探讨了用户对软审核机制的信任度及可能产生的“逆火效应”。研究建议平台应采用更透明的标签设计,并考虑用户特征以提升审核效果。该工作为内容审核策略提供了实证依据,对社交工程防御和虚假信息治理有参考价值。

💡 推荐理由: 虚假信息是社交工程的关键载体,了解软审核如何影响用户决策有助于安全团队设计更有效的安全提示和培训,提升组织对信息操纵的抵抗力。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)