#recommender-systems

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Quoc Viet Nguyen, Trinh Pham, Viet Huynh, Hongzhi Yin, Quoc Viet Hung Nguyen, Bay Vo, Thanh Tam Nguyen

该论文聚焦推荐系统面临的一类重要安全威胁——刷榜/刷单攻击(shilling attack,即攻击者通过注入虚假用户档案来扭曲物品排名、操纵曝光度)。作者指出,现有刷榜攻击方法存在两个明显短板:一是往往需要针对特定目标物品进行微调,或依赖固定的用户档案模板,导致攻击难以迁移到不同受害系统;二是模式化程度高,容易被检测器识别。为克服上述局限,论文提出 Agentic Group Attack System(AGAS),一个协同式群体刷榜框架:由中央的 Coordinator(协调者)指挥一组具备角色切换能力的 worker agent,使其能够自适应地在不同“受害者家族/受害系统类型”上推广同一目标物品。Coordinator 会根据推广进展是否停滞、抑制信号(例如检测器或平台的打压反馈)是否增强,动态调整整体策略;而 worker agent 则围绕共同目标行动,并在“活跃/非活跃”角色之间切换,以避免产生重复、可被模式识别的行为痕迹(即降低行为同质性与时序规律性)。论文在统一的攻击预算与评测协议下,将 AGAS 与多个强基线方法进行比较,报告的结果显示:AGAS 在目标物品推广效果上持续优于基线,同时更好地保留了正常推荐质量(即对良性用户体验的破坏更小、隐蔽性更高),并削弱了代表性检测器的效果,效率也高于既有攻击。作者进一步强调,这类结果表明,防御推荐系统可能需要能够应对“自适应、协同化刷榜行动”的机制,而不仅是针对孤立虚假档案注入的传统检测思路。论文代码已公开在 GitHub 上。研究视角上,该工作属于推荐系统安全与多智能体/LLM Agent 交叉方向,核心贡献是提出自适应协同的群体攻击框架并给出统一预算下的系统性评测,适合推荐系统安全、风控反作弊、平台信任与安全以及 Agent 安全研究者阅读。

💡 推荐理由: 它说明刷榜攻击正从静态模板走向“多智能体自适应协同”,能同时提升推广效果、隐蔽性并削弱现有检测器,提示依赖孤立虚假档案特征的防护与风控策略可能失效,防御需转向群体协同行为建模。

🎯 建议动作: 研究跟进:纳入内部推荐系统风控评估,重点验证群体协同检测能力与检测器抗规避表现

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ranjeet K Jha, Venkata Suresh Gummadilli

本文提出并评估了一个隐私保护的推荐系统框架,旨在解决传统推荐系统依赖集中存储用户交互数据所带来的隐私与合规挑战(如GDPR、CCPA、CPRA)。该框架结合了联邦学习、差分隐私、群体级建模和隐私感知智能体:联邦学习保持原始用户数据分散在本地,差分隐私向模型更新引入数学上有界的噪声,群体级建模利用用户群体特征而非个体数据,隐私感知智能体负责协调隐私预算分配。实验在模拟客户点击流和购买行为的合成零售数据集上进行,评估了矩阵分解、神经协同过滤和GRU4Rec三种推荐模型在多个差分隐私预算(ε值)下的表现,度量包括点击率(CTR)、Precision@K、Recall@K和归一化折损累计增益(NDCG@K)。结果发现,在中等隐私预算(ε≈5)下,该框架能保持有竞争力的推荐质量,表明强隐私保护可以以有限的推荐效果损失实现。此外,还开发了交互式Streamlit仪表盘以可视化推荐性能、排序稳定性、隐私-效用权衡和公平性指标。本文为部署兼顾个性化、法规合规与商业目标的隐私保护推荐系统提供了实用框架,适合电商和零售平台的安全与隐私工程师、推荐系统研究人员阅读。

💡 推荐理由: 随着隐私法规日趋严格,推荐系统必须在保护用户数据的同时保持推荐质量。本文提供了一个经过实验验证的实用框架,展示了如何通过联邦学习与差分隐私的组合实现隐私-效用的良好平衡,对安全与隐私从业者具有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)