#search-engine-defense

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Haozhang Li, Yangguang Shao, Xinjie Lin, Zhong Guan, Mi Zhou, Junzheng Shi

该论文研究的是针对生成式搜索引擎的恶意生成式引擎优化(GEO)攻击的防御问题。GEO 攻击通过改写网页文档来迎合搜索引擎的引用偏好,从而操纵生成式搜索引擎在回答中优先引用或放大特定目标文档。近期的 GEO 方法已从手工改写演变为自动化、智能体化的优化,显著提升了目标文档在生成回答中的可见性。防御此类操纵面临两大挑战:其一,攻击文档与原始文档在事实上保持一致,因此基于事实核查或困惑度过滤的方法难以奏效;其二,攻击所放大的特征同样也是高质量良性内容所具有的特征,难以区分。为此,论文提出 GEO Defender——一种两阶段防御框架,不需要微调目标大语言模型(LLM),而是沿着攻击链进行设计。GEO Defender 包含两个核心组件:Shield Reranker 和 Training-Free Shield Generation(TFSG)。Shield Reranker 在冻结的基座重排器之上学习一个基于偏好的防御性残差,从而在保持相关性判断的同时,将经过 GEO 改写的文档在排序中后移;TFSG 则将防御结果蒸馏到一个自然语言的经验库中,在推理阶段引导目标 LLM 的资料来源选择。论文在两个闭源 SOTA LLM 和三个开源 LLM 上、覆盖七种 GEO 攻击的实验表明,GEO Defender 能够将平均攻击成功率从 50.32% 降至 6.20%,同时保留 94.12% 的良性证据使用率,并保持回答质量,且对未见过的攻击具有良好的泛化能力。该工作为对抗针对生成式搜索的隐形操纵提供了一种无需修改底层模型即可部署的防御思路。

💡 推荐理由: 生成式搜索成为信息入口,攻击者可通过优化网页引用操纵模型答案,影响舆论与决策。现有防御难以识别事实一致但具有操纵性的改写。GEO Defender 无需微调模型即可显著降低攻击成功率,适合反操纵、搜索引擎安全与 LLM 应用防护研究。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)