该论文系统性地探讨了大语言模型（LLM）在虚假信息生态系统中的多重角色与影响。作者指出，LLM已将虚假信息从单纯的内容问题转变为生态系统级别的安全挑战。当被滥用时，LLM不仅能够生成虚假内容，还能攻击虚假信息防御所依赖的社会语境、证据来源、检索语料库和验证工作流。为此，论文提出了一个角色-层次框架来统一分析相关风险与防御：角色维度将LLM刻画为攻击者、防御者以及验证系统的脆弱组件；层次维度则涵盖内容、社会语境、证据环境和验证工作流。基于该框架，论文梳理了LLM使能的攻击手段，调研了基于LLM的检测与验证方法，分析了以LLM为中心的检测范式中的脆弱性，并讨论了现有的对抗LLM攻击的防御措施。最后，论文指出了三大开放挑战：从静态检测准确率转向预算约束的生态系统级风险评估、加固以LLM为中心的验证流水线以抵御对抗操纵、部署可审计的人机协同验证系统以实现可信的真实世界虚假信息防御。本文适合安全研究人员、虚假信息分析师及LLM系统开发人员阅读。