#consumer-finance

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Rikhiya Ghosh, Himanshu Kumar, Sriram Venkatapathy, Sahil Wadhwa, Alexandre G. R. Day, Pranab Mohanty

该论文聚焦于受监管行业(尤其是消费金融)中大语言模型的安全失效问题:一些表面上完全无害的用户提问,可能触发模型的安全漏洞,使回答在合规政策边界上逼近甚至越界,带来监管与声誉风险。作者指出,现有自动化红队方法普遍在“攻击有效性”与“生成成本”之间做取舍——基于迭代自适应搜索的方法虽然有效,但每次攻击都需要针对目标模型反复查询、成本高昂;而一次性生成的提示模板又往往效果有限。同时,这些方法把覆盖度、严重度和多样性当作顺带产物,而非联合优化的目标。为此,论文提出 FinRT 框架,其核心思路是把自适应红队搜索过程中学到的策略“蒸馏”为可复用的对抗提示生成器:先在受害模型上执行自适应搜索以发现有效的攻击策略,再将这些策略固化成生成器,使面向目标的攻击生成成本被摊销,之后无需再对目标模型做高开销的迭代搜索即可批量产出对抗提示。作者在消费金融场景下的六个受害模型上做了评测:FinRT 将攻击成功率从自适应基线 Rainbow Teaming 的 17.2% 提升至 32.9%,接近翻倍;最大对抗严重度提升约 33%;同时在单一政策域内的语义多样性上,与迭代搜索类方法保持相当水平。此外,FinRT 生成的策略表现出较高的跨模型迁移能力,并呈现出针对不同受害模型家族的专化模式。该工作同时给出了可复用的红队生成范式与一组可比较的评测指标(攻击成功率、严重度、多样性、迁移性),对模型安全评估与合规加固具有参考价值。

💡 推荐理由: 它把红队攻击从“每次都要对目标模型反复搜索”变成“一次蒸馏、反复复用”,显著降低了攻击生成成本并提升成功率,意味着防守方面对的对抗提示生产会更快、更规模化。同时给出了消费金融合规边界下的量化评测口径,便于内部 LLM 安全基线对比。

🎯 建议动作: 研究跟进,并评估纳入内部 LLM 安全评测与合规回归流程

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)