#search-agent

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Yimeng Chen, Zhe Ren, Firas Laakom, Yu Li, Dandan Guo, Jürgen Schmidhuber

该论文研究基于大语言模型(LLM)的搜索代理在整合网络内容时可能遭受的推荐操纵风险。LLM搜索代理代表用户综合开放网络内容并给出可操作建议,这为攻击者提供了机会:通过发布恶意网页,诱导代理将攻击者的内容转化为被认可的建议。为此,作者提出了SearchGEO——一个用于衡量LLM搜索代理推荐腐败程度的受控评估框架。该框架包含三个核心组件:网络证据操纵流水线(可自动化生成包含特定偏见的网页)、五模式攻击分类法(针对不同攻击场景)以及多个输出层指标(如攻击成功率ASR)。作者利用308个测试案例对13种LLM后端(如Claude、Gemini、GPT系列等)进行了评估。结果表明,不同后端的脆弱性模式差异显著:整体ASR从Claude-Sonnet-4.6的0.0%到Gemini-3-Flash的31.4%不等;最强攻击模式因模型家族而异;相同的部署脚手架在不同后端上可能放大或降低ASR。此外,论文通过辅助代理技能探测实验(将推荐转化为安装命令)进一步揭示了后端的极端行为:Claude过度拒绝而GPT过度信任。这些发现表明,在对抗性搜索内容下,推荐可靠性应作为后端安全评估的一个首要维度,为LLM安全从业者提供了评测方法和警示。

💡 推荐理由: 本论文首次系统性地量化评估了LLM搜索代理在对抗性网页内容下的推荐可靠性,揭示了不同模型后端的脆弱性差异及极端行为。对于依赖LLM搜索代理提供建议的蓝队和SOC人员而言,理解这些风险有助于设计更安全的部署策略,避免被恶意网页诱导输出有害推荐。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)