本文针对生成式引擎优化(GEO)带来的新型内容操纵风险展开研究。GEO 通过修改网页内容,提高其被生成式搜索引擎(如基于大语言模型的检索增强系统)选中和引用的概率,使得部分页面获得超出其权威性或相关性的可见度,甚至可能让质量较低或虚假的信息显得有理有据。与传统的按链接排序的搜索不同,生成式搜索将信息综合为直接答案,而不是展示多个竞争来源,这进一步削弱了用户对来源溯源和权威性的判断,导致风险放大。然而,目前尚无系统的 GEO 页面检测方法。为此,作者构建了名为 GEOFlagBench 的基准数据集,包含 3,200 个网页,覆盖 400 个查询、4 个领域和 8 类 GEO 优化器族。基于该基准,作者系统评估了现有的 GEO 检测方法,发现最强基线虽然总体 F1 达到 0.880,但在按方法和按作者条件评估时暴露出明显弱点,甚至可能依赖与作者相关的捷径。针对此问题,作者提出了一种新训练范式——干预配对训练(Intervention-Paired Training, IPT),该方法同时监督检测器对 GEO 干预和非 GEO 的 AI 润色内容的响应。在 ModernBERT 模型上,IPT 将 F1 从 0.862 提升至 0.944,最差组准确率从 0.725 提升至 0.883。此外,作者开发了一个基于 GEO 门控的智能体系统,用于审计被检测 GEO 页面的源层级(Source Tier)和引文 URL 的可验证性。最后,作者将完整流程部署到从 Google Search 和 Gemini 检索结果中收集的 1,000 个真实用户查询上。在 10,095 个可用页面中,估计整体 GEO 流行率为 8.90%,在 2026 年修改的页面中这一比例高达 16.36%。该研究为在真实搜索生态系统中系统性地检测、审计和度量 GEO 奠定了基础。适合对搜索引擎安全、内容操纵检测、大模型应用安全感兴趣的研究者与安全工程师阅读。
💡 推荐理由: GEO 正在成为影响生成式搜索可信度的新威胁,本研究提供了第一个系统的检测基准和有效方法,帮助蓝队理解并识别被 GEO 污染的网页,避免生成式搜索被操纵。
🎯 建议动作: 研究跟进