#金融安全

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Liuyang Yao, Zhouyu Li, Junguang He, Ziyang You

该论文研究AI辅助金融咨询(如信用评估、投资顾问)中存在的隐蔽操纵通道。作者发现LLM推理的采样层存在一个漏洞,允许攻击者在保持与输出审计机制(包括统计水印)完全兼容的情况下,系统性偏置AI生成的金融意见。这种推理阶段的操纵在统计上难以检测:操纵输出与正常输出分布之间的KL散度可以任意小,使得基于输出的检测方案需要不可实际的大样本量才能达到可靠检测。实验在信用评级和投资顾问场景中显示,在隐蔽性感知操纵下,定向偏置关键词可被放大1.8-1.9倍,同时触发零个黑盒检测器并保持水印完整性。该漏洞在三种主流水印方案和三种异构模型架构上均有效,构成系统性金融基础设施风险。软件防御(如密码学安全的伪随机数生成器)完全无效,而QRNG结合TEE硬件隔离通过用量子熵替换可预测的哈希密钥,使所有预计算操纵目标无效,实现了100%攻击阻断(将目标率降至自然基线)。作者提出四项监管修正,核心是要求高风险金融AI系统根据NIST SP 800-90B进行强制性QRNG认证、推理层供应链审计和输出溯源机制。本文适合关注AI安全、金融监管、LLM供应链安全的研究人员和监管者阅读。

💡 推荐理由: 揭示了一种隐蔽且难以检测的AI操纵通道,直接威胁金融市场的诚信与监管有效性。防御方案需要硬件级改造(QRNG+TEE),对现有AI审计体系构成挑战。

🎯 建议动作: 研究跟进:评估自身系统是否依赖可预测的随机数生成;考虑将QRNG硬件集成纳入安全路线图。

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)