#financial

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Chaeyun Kim, Daeyoung Park, Junghwan Kim, Jinyoung Jeong, Eunji Song, Yongtaek Lim, Minwoo Kim

该论文提出了FFinRED,一个专家引导的金融领域大语言模型(LLM)红队测试基准生成与评估框架。现有安全基准主要针对通用对抗性场景,缺乏金融特有的风险(如监管违规、欺诈助长、系统性信任侵蚀)。FFinRED通过与金融专家合作,采用新颖的两级分类法,将全球标准(例如金融行动特别工作组FATF、欧盟数字运营韧性法案EU DORA)映射到从监管规避到复杂欺诈的威胁,并集成了可扩展的流水线,将真实金融文档通过专家定义的架构转换为上下文丰富的红队行为提示(seeds)。专家严格验证了seeds的合理性和真实性,确保有意义的LLM安全评估。此外,该框架提供了一个经过专家验证的金融特定评分标准,超越了简单的免责声明检查,与人类专家判断更一致,并将关键假阴性从28个减少到12个。FFinRED已部署在韩国金融安全研究所(FSI)的监管沙盒中,用于真实金融服务中的生成式AI安全评估,符合国际风险管理与信息安全标准(如ISO/IEC 27001)。为缓解双重用途风险,数据集、生成流水线、提示模板和评估框架对合格研究人员开放获取。

💡 推荐理由: 填补了金融LLM安全评估领域专用基准的空白,提供专家引导的标准化方法,对齐国际监管标准,可有效发现金融场景下的LLM安全隐患。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)