#ai-app-security

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Yacong Gu, Lingyun Ying, Zidong Zhang, Yingyuan Pu, Xiaoxue Huang, Jiawei Zhou, Wenjie Zhu, Donghong Sun, Haixin Duan

本文首次系统性地分析了AI应用(AI-Apps)在预训练模型平台(如Hugging Face、TensorFlow Hub等)上的安全风险。研究者将AI应用的生命周期映射到OWASP等风险分类体系,识别出五大威胁类别和十种攻击向量,涵盖从通用Web漏洞到高影响力架构问题。他们发现了关键安全缺陷,包括访问控制失效、不安全资源复用、输入验证不足和敏感数据泄露。特别地,揭示了三种平台设计固有的新型架构漏洞,并展示了传统问题(如全局可读日志)如何在此生态中被放大。为评估现实影响,研究者开发了分析框架Insightor,并将其应用于超过97万个公开AI应用。结果令人震惊:数千个应用泄漏凭证,数百个存在输入注入漏洞可导致任意代码执行,数十个含有嵌入式后门——表明这些漏洞已被积极利用。研究人员已向受影响平台和开发者负责任地披露了所有发现。

💡 推荐理由: 揭示了AI应用托管平台中未被充分探索的攻击面,安全从业者需关注供应链安全、隔离机制和输入验证等关键问题,避免自身部署的AI应用成为突破口。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)