#abuse-monetization

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Zihao Wang, Jiacen Xu, Zilong Lin

该论文对开源文生图(T2I)生态中一类被刻意改造、用于提供有害服务的模型进行了首次系统性、生态级别的测量研究。作者将这类模型命名为 Monet。以往研究只针对单一平台上特定类型的有害 T2I 模型,但 Monet 并非孤立存在,其背后横跨模型特征、跨平台传播、监管规避、商业化变现与下游部署的完整生态长期缺乏认知。研究方法上,作者以真实模型托管平台的服务条款为依据,构建了包含十类有害服务的分类体系;随后在八个主流 T2I 模型平台上开展大规模普查,共识别出 23,947 个 Monet,其中热度最高的单个模型下载量超过 1900 万次。测量结果揭示了几条关键链路:第一,部分开发者虽然部署了防盗机制以阻止未授权二次上传,但 Monet 仍以规模化方式跨平台传播,40.76% 的 Monet 在多个平台存在镜像副本;第二,这种跨平台传播进一步支撑了监管规避,通过跨平台存档,11.99% 的 Monet 即使在原平台被封禁后仍可继续访问,此外还存在关键词混淆、绕过模型级安全防护等规避手法;第三,Monet 还被用于组织化的商业活动,例如一个包含 668 个模型、完成 914 笔委托订单的商业推广活动,以及为灰产账号养号服务做广告的活动;第四,这些模型通过 GitHub 项目与推理 API 触达终端用户,引发了下游儿童安全方面的担忧。论文的核心贡献在于:提出面向真实平台政策的十类有害服务分类体系,完成首个跨八个平台、近两万四千个模型的生态级测量,量化了跨平台镜像率、封禁后仍可访问比例等传播与规避指标,并刻画了 Monet 的商业化与下游分发路径。研究结论指出,单平台割裂式防御存在明显局限,需要跨平台威胁情报共享、协同治理以及技术层面的防护措施。该工作适合平台信任与安全团队、内容风控与模型治理研究者、AI 供应链安全从业者以及从事儿童安全与灰产治理的人员阅读。

💡 推荐理由: 它首次量化了有害文生图模型的跨平台传播、封禁规避与商业化链路,证明按平台单点封禁无法根治问题,为蓝队提供了供应链级风险视角与跨平台情报需求依据。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)