随着大语言模型及其驱动的智能体(agent)能力增强,这些智能体日益自主化,并可代表用户在互联网上执行操作,例如自动管理用户的社交媒体账号。然而,部署在社交平台上的自动化智能体自身的脆弱性研究仍不充分。现有关于智能体投毒的研究通常假设攻击者能够把恶意内容直接暴露给智能体;这类攻击虽然直接有效,但更容易被检测和缓解。本文转而提出一个更隐蔽的问题:在社交平台场景下,推荐系统本身是否会把投毒内容主动推送到智能体面前。围绕该问题,作者以 OASIS 平台中使用的 like-score(点赞分)机制为研究对象,通过理论分析证明该机制可以被利用,并刻画了在何种条件下,一条由多阶段投毒帖子构成的链条能够操纵智能体的信息流(feed),即把智能体逐步引导至攻击者期望的内容上。基于这些理论洞见,作者进一步设计了一种能够生成看起来真实自然的投毒帖子的算法。实验验证了理论结论,并展示了该算法的有效性。尤为值得注意的是,攻击通过利用 like-score 形成的反馈回路,使得即使投毒帖子与用户/帖子的相似度低于检索阈值,推荐系统仍会选中这些投毒帖子——也就是说,攻击者并不需要让内容在相似度上"过关",而是借助系统自身的反馈放大效应让内容"被系统选中"。该工作把智能体投毒从"直接暴露内容"扩展为"诱导推荐系统主动分发"的多阶段范式,揭示了相似度推荐系统反馈回路作为间接投毒通道的结构性脆弱性,并给出了可检验的理论条件与具体的帖文构造算法。适合研究智能体安全、推荐系统鲁棒性以及社交平台风控的研究者与工程师阅读。
💡 推荐理由: 它说明即使恶意内容未直接注入智能体上下文,推荐系统的点赞反馈回路也可能被操纵,把投毒内容送达智能体。传统基于相似度阈值的过滤在这种间接路径下会失效,防御者需重新评估智能体代管账号所面临的暴露面。
🎯 建议动作: 研究跟进:纳入内部智能体/推荐安全评估,验证自身推荐链路是否存在类似反馈放大路径