本文研究多智能体协同过滤(CF)系统中的攻击与防御问题,特别关注系统连接性如何影响这些攻击和防御的效果。多智能体CF系统由多个自主的大语言模型(LLM)驱动的用户智能体和物品智能体组成,它们通过自然语言交互来细化偏好并生成推荐。这类系统既继承了数据驱动方法的脆弱性,也继承了多智能体交互的固有风险,而这些风险以不同方式表现出来。作者认为,理解连接性如何调节系统脆弱性,有助于构建更稳健的推荐流水线。为此,作者将通用多智能体系统(MAS)文献中的攻击和防御方法改编到基于智能体的CF场景中,并在AgentCF框架下系统性地改变连接性进行评估。连接性沿两个维度刻画:(1)候选数量(每轮每用户考虑的物品候选数量,衡量用户侧交互密度);(2)目录集中度(不同用户之间物品目录的重叠程度)。本文的贡献包括:(1)改编:在智能体CF领域复现了源于MAS的攻击和防御方法,证实了原有观察结果的部分可迁移性;(2)刻画:系统分析了连接性两个维度如何影响攻击与防御结果,揭示了用户智能体和物品智能体之间的角色不对称性、攻击效力的非单调时间动态,以及传播型攻击与提取型攻击在目标上的分歧模式。此外,作为探索性扩展,作者评估了受流行病学启发的静态指标在按预期攻击结果对CF配置进行排序方面的适用性,这可能支持低成本的鲁棒性评估。实现代码已开源(https://github.com/anjunhu/ConnACF)。本文适合关注智能体安全、推荐系统鲁棒性和多智能体系统安全的研究人员阅读。
💡 推荐理由: 该研究揭示了多智能体推荐系统中连接性对攻击/防御效果的关键影响,为构建更稳健的LLM驱动的推荐系统提供了理论依据和评估方法,有助于安全从业者理解此类系统的特有攻击面。
🎯 建议动作: 研究跟进