本研究针对大型媒体平台（如YouTube）上日益猖獗的评论诈骗（comment scams）进行了首次系统性、大规模的分析。攻击者通过脚本控制的账户自动发布或回复评论，以免费奖品和投资机会为诱饵，诱使用户联系他们，最终窃取用户的金融资产。研究团队设计并实现了一套基础设施，在6个月内从20个不同的YouTube频道收集了880万条评论。他们基于文本、图形和时间特征开发了过滤器，识别出来自10,000个独立账户的206,000条诈骗评论。通过分析诈骗活动、评论动态以及攻击者使用的规避技术，研究人员揭示了诈骗团伙的运作模式。此外，经伦理审查委员会批准，研究者与50名诈骗者进行了互动，深入了解其社会工程策略和支付偏好。利用公共区块链上的交易记录，他们对诈骗者窃取的金融资产进行了定量分析，发现仅参与互动研究的诈骗者就已窃取了价值数百万美元的资金。研究表明，现有的诈骗检测机制不足以遏制此类滥用行为，亟需更好的评论审核工具以及限制攻击者在大型平台上获取数万个账户的改进措施。本论文适合安全分析师、平台防御工程师及社交媒体安全研究者阅读。

该研究对 Roblox 平台的聊天安全审核系统进行了首次独立评估。Roblox 拥有数亿每日活跃用户，其中大量为未成年人，这使其成为恶意用户通过实时聊天接触潜在受害者的高风险环境。研究者从四个不同年龄分组的公开游戏服务器中，遵循伦理、法律规范及 Roblox 服务条款，收集了约 200 万条聊天消息作为语料库。由于数据规模庞大，无法完全依赖人工分析，他们采用了两阶段方法：首先人工标记了 99,800 条消息作为安全/不安全的基准真值，并用此评估了四款本地部署的先进大语言模型（LLMs）的分类性能；随后将表现最佳的 LLM 应用于全部语料，识别出潜在不安全消息，再通过迭代开放式和轴式编码进行人工归类，直至达到主题饱和。研究结果显示，当前审核系统存在严重漏洞：大量涉及诱骗、性化未成年人、欺凌骚扰、暴力、自残、共享敏感信息等不安全聊天消息成功逃脱审核。进一步分析表明，那些消息曾被标记过的用户，会采用多种技术（如变体拼写、同音词、隐晦表述等）持续发送有害消息以规避审核。该研究系统性地揭示了现有自动化审核机制的不足，强调了针对青少年社交平台的内容审核亟需改进。