本论文研究去中心化文件系统 IPFS（星际文件系统）中的内容审核挑战。IPFS 作为“去中心化网络”的重要组成部分，其分布式架构使得内容管理极为困难。作者通过分析 368,762 个文件，系统性地识别、分类并测量了 IPFS 中存在的问题内容（例如已被下达删除通知的文件）。研究覆盖了完整的内容审核流程：文件如何被标记、谁托管和检索这些文件，以及审核流程的有效性。作者分析了提交到拒绝列表的内容，发现大量问题内容仍被提供服务，且缺乏中心化机制反而促进了问题内容的传播。尽管作者观察到对删除请求的快速响应，但测试了多个网关的弹性后表明，现有过滤手段可以被规避。最终，论文提出了改进内容审核的方案：在检测钓鱼内容方面提高了 227% 的识别率，并将平均过滤时间缩短了 43%。这项工作对去中心化平台治理、内容安全以及分布式系统安全具有重要参考价值。

该研究对 Roblox 平台的聊天安全审核系统进行了首次独立评估。Roblox 拥有数亿每日活跃用户，其中大量为未成年人，这使其成为恶意用户通过实时聊天接触潜在受害者的高风险环境。研究者从四个不同年龄分组的公开游戏服务器中，遵循伦理、法律规范及 Roblox 服务条款，收集了约 200 万条聊天消息作为语料库。由于数据规模庞大，无法完全依赖人工分析，他们采用了两阶段方法：首先人工标记了 99,800 条消息作为安全/不安全的基准真值，并用此评估了四款本地部署的先进大语言模型（LLMs）的分类性能；随后将表现最佳的 LLM 应用于全部语料，识别出潜在不安全消息，再通过迭代开放式和轴式编码进行人工归类，直至达到主题饱和。研究结果显示，当前审核系统存在严重漏洞：大量涉及诱骗、性化未成年人、欺凌骚扰、暴力、自残、共享敏感信息等不安全聊天消息成功逃脱审核。进一步分析表明，那些消息曾被标记过的用户，会采用多种技术（如变体拼写、同音词、隐晦表述等）持续发送有害消息以规避审核。该研究系统性地揭示了现有自动化审核机制的不足，强调了针对青少年社交平台的内容审核亟需改进。

本文系统地研究了中文大型语言模型（LLM）服务中内容审查政策的实现方式。研究团队设计并实现了一个自动化测试框架，通过向多个主流中文LLM服务（如百度文心一言、阿里巴巴通义千问等）发送精心构造的提示词，评估它们对敏感话题（如政治、历史、社会事件等）的响应一致性。实验发现，不同服务在审查的严格程度、触发审查的关键词模式、以及拒绝回答的措辞上存在显著差异。部分服务会直接拒绝回答，另一些则提供符合官方立场的回答，还有服务会给出模糊或转移话题的回复。论文进一步分析了审查政策的文本依据，并讨论了这种不一致性对用户信息获取和言论自由的影响。研究贡献在于首次大规模、多维度地刻画了中国LLM服务的审查实现现状，为理解AI时代的信息控制提供了实证数据。

本研究对大型语言模型（LLM）中的内容审核机制进行了全球范围的系统性分析。论文首先指出现有LLM部署时通常内置了内容过滤器以阻止有害或不当内容，但这些过滤器的有效性和一致性在全球不同地区因语言、文化、法律和监管环境的差异而存在显著不确定性。作者收集了多个主流LLM（如GPT-4、Claude、Llama等）的公开API和开源模型，设计了一套涵盖仇恨言论、敏感政治话题、暴力、色情等类别的多语言测试提示集，覆盖英语、中文、阿拉伯语、俄语、西班牙语等10种主要语言。通过自动化测试和人工评估相结合的方式，报告了不同模型在不同语言下对同一内容管制的差异——某些语言（如英语）的内容过滤极为严格，而其他语言（如低资源语种）则几乎无限制。进一步地，论文还揭示了特定区域（如中国大陆）的模型版本在政治敏感话题上存在额外的本地化审核规则，体现了“套娃式”的审核层级。实验表明，许多LLM的内容审核并非基于统一价值观，而是受到部署地区法律和社会规范的深刻影响，甚至出现“Ba Sing Se”（《降世神通》中虚构的乌托邦城市，寓意掩盖真相）式的表面和谐。该研究的核心贡献在于首次在大规模、多语言、多模型背景下量化了LLM内容审核的地理不均匀性，并提出了威胁分类法（taxonomy）来表征不同级别的审核力度。对于安全从业者而言，本文揭示了通过语言或区域转变绕过内容过滤的潜在攻击面，并强调了在全球化部署中维护一致性审核策略的挑战。

该论文研究了社交媒体平台上的软审核（soft moderation）对用户感知不真实政治内容准确性和分享意图的影响。研究者以X平台（原Twitter）为背景，通过在线实验（N=约1000名美国参与者）呈现带有不同软审核标签（如“虚假信息”、“有争议”等）的政治推文，测量用户对内容准确性的感知和分享意愿。结果显示，软审核标签显著降低了用户对不真实内容的准确性评价，并减少了分享意图，但这种效果因用户政治倾向和内容类型（左翼vs右翼）而异。此外，软审核对低可信度内容的抑制作用更强，但对高可信度内容影响较小。论文还探讨了用户对软审核机制的信任度及可能产生的“逆火效应”。研究建议平台应采用更透明的标签设计，并考虑用户特征以提升审核效果。该工作为内容审核策略提供了实证依据，对社交工程防御和虚假信息治理有参考价值。