#financial-ai

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Qingwen Zeng, Zhenghao Zhao, Yitian Yang, Yiqi Zhu, Fangchen Liu, Zhaoge Bi, Moe Thandar Kyaw Wynn, Kim-Kwang Raymond Choo, Huaming Chen

该论文是一篇针对金融科技(Fintech)领域人工智能系统可信赖性的综述研究。作者指出,当前人工智能已深度嵌入金融AI管道的各个环节(训练与更新、部署与推理、操作与监控反馈),然而这些管道在提供自动化与规模化优势的同时,也引入了新的攻击面——微小的算法扰动可能被放大为持续的系统级金融危害。现有综述要么将AI视为防御工具,要么以领域无关的方式分析对抗性机器学习,忽略了金融特有的约束条件(如会计合理性、非独立同分布联邦数据、持续重训练以及自动化放大的下游效应)。 为此,论文提出了一个统一的、以生命周期为中心且机制驱动的分析框架。首先,将金融AI划分为三个生命周期阶段:训练与更新、部署与推理、操作/监控/反馈。然后,提出了“金融AI安全与鲁棒性分类法”(Financial AI Security and Robustness Taxonomy),系统整理了17种攻击子类型,涵盖数据与模型投毒、针对决策边界的对抗攻击、LLM中介工作流中的提示注入、以及深度伪造对KYC验证层的颠覆。针对每种子类型,论文分析了其算法策略、可行性约束、隐蔽性与持久性,以及下游金融后果。 最后,论文识别了当前开放挑战,并规划了面向生命周期感知的压力测试和金融相关鲁棒性基准的研究议程。该工作适合金融安全研究人员、AI安全工程师以及金融监管科技从业者阅读,有助于系统性理解金融AI面临的安全威胁并指导防御设计。

💡 推荐理由: 本文首次从金融特有的约束视角系统梳理AI管道各环节的攻击面,弥补了现有综述领域无关的缺陷,为金融行业AI安全风险评估提供了结构化分类法,有助于蓝队识别和应对定制化威胁。

🎯 建议动作: 研究跟进,纳入内部威胁建模参考。

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)