本文针对数字界面中日益泛滥的欺骗性模式(deceptive patterns)提出了一种自动化检测框架 AutoBot。欺骗性模式利用用户的认知偏差和心理弱点,诱导其做出非本意的决策,常见于各类数字平台,对用户权益构成威胁。现有缓解措施主要来自法律和技术两个角度,但缺乏可用且可扩展的解决方案。AutoBot 的核心创新在于仅凭网站截图即可完成欺骗性模式的识别与定位,无需依赖底层 HTML 代码,这使得其适用于更广泛的现实场景(如难以获取源码的页面或动态渲染内容)。框架采用两阶段流水线:第一阶段利用专门设计的视觉模型分析网站截图,识别交互元素并提取文本特征;第二阶段借助大型语言模型(LLM)理解这些元素的上下文语义,从而判断是否存在欺骗性模式。此外,作者还利用 AutoBot 构建了一个合成数据集,用于将教师大语言模型的知识蒸馏到更小的语言模型中,以降低部署成本并提高推理效率。实验结果表明,AutoBot 在网页欺骗性模式检测任务上取得了 0.93 的 F1 分数,证明了其有效性和实用性。该研究填补了自动化、可扩展检测工具的空白,为 Web 利益相关方(如平台运营者、安全团队、浏览器插件开发者)提供了一种高效缓解在线欺骗性模式的解决方案。读者包括用户界面研究人员、安全分析师、人机交互学者以及关注在线信任与安全的从业者。
💡 推荐理由: 欺骗性模式是用户隐私与决策自主性的重大威胁,但现有检测手段多依赖源码分析,难以覆盖动态网页。AutoBot 展示了纯视觉+LLM 的可行路径,为蓝队和平台安全团队提供了一种不依赖 HTML 的检测思路,可有效发现恶意诱导界面。
🎯 建议动作: 研究跟进