#deterministic-guardrails

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Shaikh Mohammed Burhan, Syed Farhaan Quadri, Tabassum Nahid Sultana

该论文关注青少年数字支付场景中的安全架构问题。背景上,数字支付基础设施正越来越多地向未成年用户开放实时金融服务,这虽然有助于提升金融素养与数字普惠,但也使年轻用户暴露于冲动消费、社会工程诈骗、未授权交易和商户不当利用等风险。现有对策主要依赖概率型机器学习模型或静态硬性控制,但论文指出,让概率型或生成式AI模型直接参与实时支付授权决策会引入非确定性、不可预测的边界行为以及关键审计漏洞。为此,作者提出 FST Pay(Financial Safety for Teens Pay),将其定义为一种架构与形式化规范。其核心是不可变操作边界:在实时授权路径上实施严格的确定性安全门控,并将下游AI解释能力完全解耦。通过 UPI 等支付轨道发起的交易必须经过六项确定性不变式检查,涵盖消费限额、监护人共同签署策略、交易金额阈值、商户类别码(MCC)、时间访问区间以及硬件完整性约束。交易结果通过一个有序且互斥的决策函数被严格分类为 ALLOW、REVIEW 或 BLOCK。高风险交易会触发异步监护人共签工作流。生成式AI被完全置于结算之后,仅消费已发布的事后决策事件来生成自然语言财务洞察,不拥有对账本的任何变更或写入权限。论文的主要贡献在于提出了一种可审计、可形式化验证的确定性支付授权架构,把AI限定为解释层而非决策层,从而降低非确定性风险与审计盲区。该工作适合支付平台架构师、金融安全工程师、风控与合规团队以及青少年金融科技产品设计者阅读。

💡 推荐理由: 在支付授权等实时关键决策路径上引入大模型或概率模型会带来不可审计与边界不可预测的问题。该论文给出“确定性门控+AI仅做下游解释”的架构范式,对支付、风控、Agent 授权等任何在实时决策链路中部署AI的团队都有直接参考价值。

🎯 建议动作: 研究跟进,并纳入支付/风控系统AI授权路径的架构评估

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)