#ai-trim

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Muhammad Tukur, Hayatullahi B. Adeyemo, Tao Chen, Nour Ali, Anis Zarrad, Rick Kazman, Marco Agus, Rami Bahsoon

该论文针对人工智能(AI)系统中因复杂性、快速演化及动态数据管道所引入的新型工程负债——AI技术债务(AITD)进行了系统性综述。研究基于AI信任、风险与安全管理(AI TRiSM)原则,将技术债务重新解释为与可信性相关的维度,聚焦于AI安全与安全技术债务。作者系统回顾了60篇主要研究,识别出31种不同类型的AITD,并构建了包含7个类别的根本原因分类法。分析进一步展示了这些债务如何映射到18个信任相关关注点,包括6个安全危害和12个安全漏洞。为支持缓解,论文综合了34条可操作指南(8条安全、26条安全),覆盖AI生命周期的预防、检测和减少策略。在此基础上,提出了AITD-MAP集成框架,将AITD分类、质量与风险影响及缓解策略统一为风险感知AI工程的结构化结构。该框架旨在帮助AI软件工程师使安全与安全技术债务可见,理解其根本原因并减轻其影响。论文主要贡献在于提供了全面的AITD分类法、可操作指南以及实用的集成框架,适用于AI系统开发者、安全工程师和研究人员。

💡 推荐理由: 随着AI系统在关键领域的部署,隐藏的技术债务可能导致安全漏洞和可靠性问题。该研究首次系统梳理了AI安全与安全相关的技术债务类型及缓解策略,为工程团队提供了识别和管理的实用工具。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)