#technical-debt

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Muhammad Tukur, Hayatullahi B. Adeyemo, Tao Chen, Nour Ali, Anis Zarrad, Marco Agus, Rick Kazman, Rami Bahsoon

本文针对智能体AI(Agentic AI)系统的技术债务问题,首次系统性地提出了“智能体技术债务”(Agentic Technical Debt, AgTD)这一概念。传统AI技术债务(AITD)的研究主要基于静态的、组件级的软件架构,无法捕捉智能体AI系统所特有的自主推理、多智能体协作、工具编排、自适应决策和持久记忆等动态行为所引发的债务。作者基于先前对31种AITD的系统范围综述,采用理论驱动的转换方法论,通过直接转换、情境转换和表现扩展三种方式,重新诠释了这些债务在智能体环境中的表现形式。该研究建立了首个从传统AITD到智能体化表现的系统映射,揭示了传统债务如何演变为系统级负债,包括记忆不一致、编排脆弱性、级联故障和不安全的自主决策等。研究发现,技术债务已超越软件工件本身,扩展到智能体行为、协调机制以及智能体、工具和执行环境之间的交互。文章进一步探讨了AgTD对AI信任、风险与安全管理(AI TRiSM)的影响,强调了对可信度、治理、安全性、运营韧性和可持续性技术债务的冲击。总体而言,这项工作确立了AgTD作为软件工程的基础性概念,并提供了转换框架、分类法和研究议程,以支持自主多智能体AI系统中的技术债务管理。

💡 推荐理由: 智能体AI系统在安全运维中日益普遍,其自主决策与协作特性会引入隐藏的技术债务,导致不可预测的故障和安全风险。本文首次系统化定义并映射了这类债务,为蓝队识别和治理智能体系统隐患提供了理论基础。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Muhammad Tukur, Hayatullahi B. Adeyemo, Tao Chen, Nour Ali, Anis Zarrad, Rick Kazman, Marco Agus, Rami Bahsoon

该论文针对人工智能(AI)系统中因复杂性、快速演化及动态数据管道所引入的新型工程负债——AI技术债务(AITD)进行了系统性综述。研究基于AI信任、风险与安全管理(AI TRiSM)原则,将技术债务重新解释为与可信性相关的维度,聚焦于AI安全与安全技术债务。作者系统回顾了60篇主要研究,识别出31种不同类型的AITD,并构建了包含7个类别的根本原因分类法。分析进一步展示了这些债务如何映射到18个信任相关关注点,包括6个安全危害和12个安全漏洞。为支持缓解,论文综合了34条可操作指南(8条安全、26条安全),覆盖AI生命周期的预防、检测和减少策略。在此基础上,提出了AITD-MAP集成框架,将AITD分类、质量与风险影响及缓解策略统一为风险感知AI工程的结构化结构。该框架旨在帮助AI软件工程师使安全与安全技术债务可见,理解其根本原因并减轻其影响。论文主要贡献在于提供了全面的AITD分类法、可操作指南以及实用的集成框架,适用于AI系统开发者、安全工程师和研究人员。

💡 推荐理由: 随着AI系统在关键领域的部署,隐藏的技术债务可能导致安全漏洞和可靠性问题。该研究首次系统梳理了AI安全与安全相关的技术债务类型及缓解策略,为工程团队提供了识别和管理的实用工具。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)