推荐 5.5
Conf: 50%
本论文针对生成式搜索引擎(GSE)在面对投毒攻击时的攻击面进行了系统性评估,聚焦于政治领域,并从引用选择与个性化两个维度展开分析。生成式搜索引擎结合了网络搜索与基于大语言模型(LLM)的答案生成,能够根据用户偏好和背景提供个性化信息,已成为用户获取网络信息的重要途径。然而,由于任何人都可以在网络上发布内容,GSE 容易遭受投毒攻击,通过操纵引用生成机制来破坏信息传递的可靠性。既有研究主要评估答案是否忠实于所引用的内容,但忽略了刻画攻击面的两个关键方面:GSE 倾向于引用哪些发布者,以及个性化如何影响引用行为。为了弥补这一空白,作者提出了一种评估框架,用于刻画 GSE 对投毒攻击的攻击面。该框架包含两个主要贡献:其一,提出了一种新颖的度量指标——内容注入屏障(content-injection barrier),用于量化在给定发布者权威水平下,向网络注入任意内容的难度;其二,通过将用户画像嵌入 GSE,揭示了个性化对引用行为的影响。作者在美国和日本的政治领域对三个主流 GSE 进行了实验。实验结果表明:(a)不同 GSE 模型之间的攻击面存在差异;(b)GSE 的网页搜索功能是塑造攻击面的关键因素;(c)执政党相关的攻击面比反对党更广泛;(d)用户画像对攻击面的影响很小。该研究为理解和评估生成式搜索引擎在信息操纵风险中的脆弱性提供了新视角和方法论基础,对维护信息生态安全具有参考价值。
💡 推荐理由: 该研究首次系统刻画了生成式搜索引擎的投毒攻击面,提出可量化的评估指标,为蓝队理解此类系统如何被操纵及后续构建防御措施提供了理论依据。
🎯 建议动作: 研究跟进
排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)