本文通过半结构化访谈(17名商家和13名平台工作人员),系统研究了生成式AI(GenAI)在中文电商退款欺诈中的新型威胁。传统电商纠纷解决依赖数字证据真实反映物理现实的假设,但GenAI能够以极低成本伪造高度逼真的产品缺陷证据,从而颠覆这一安全假设。研究定义了四种GenAI驱动的威胁向量,分别涉及交易、纠纷、物流和通信阶段,攻击者利用GenAI大规模合成物理上看似真实的产品缺陷。为应对这些威胁,平台和商家正在调整验证策略,依赖AI工具进行自动筛查和对抗性询问(例如要求多角度视频),以增加攻击复杂度。然而,研究发现了若干阻碍防御采用的挑战:包括平台结构性限制等实施障碍,以及GenAI技术本身带来的根本性限制。最后,论文提出了设计启示,包括隐私保护的跨平台欺诈数据库,以及将可验证材料锚点嵌入产品以实现可追溯性机制。本研究的贡献在于首次从多利益相关方视角刻画了GenAI在电商退款欺诈中的实际应用图景、现有防御策略及其局限性,并为安全设计提供了方向。
💡 推荐理由: 电商平台正面临GenAI带来的新型规模化欺诈威胁,传统证据验证机制失效;该研究揭示了攻击手法和防御挑战,指导安全从业者提前布局反制措施。
🎯 建议动作: 建议平台安全团队评估现行验证流程中的AI伪造脆弱点,并研究跨平台欺诈数据库的可行性。