#ai-coding-assistant

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Pengyin Shan

本研究针对AI编程助手在自动选择、安装和配置软件时是否利用供应链安全信号的问题,进行了预注册的受控实证审计。背景是攻击者已通过伪造包名、入侵维护者账号、篡改仓库文本等方式利用助手的能力实施攻击;供应链社区为此发布了机器可验证的信任信号,包括软件物料清单(SBOM)、签名发布、构建来源证明和官方渠道声明。但编码助手是否读取或响应这些信号,在科研软件领域尚无系统测量。作者从87个项目语料库中选取6个开源科研软件项目(3个高性能计算、3个量子计算),为每个项目创建9种修改副本,分别覆盖:无信号、单一信号类、错误签发方的签名/证明、全部四种信号以及复现项目自身元数据冲突等情形。研究使用三个模型,在有无审批步骤两种操作方式下,记录1,920次注册试验的容器日志,并补充测试了三个前沿模型。结果显示,验证行为在所有条件下都极为罕见:1,920次试验中仅9次(0.5%)助手在安装前打开过任何来源信号,384次对照试验中0次,且没有一次试验运行验证命令;因此信号的存在对助手行为没有可测量的影响。研究还发现,更贵的模型并不会带来更好的验证(验证最多的一次成本为0.10美元,而能力最强、单次成本1.00美元的模型验证次数为零)。作者得出三点结论:发布信号是必要的但不充分;价格不能保证验证行为;必须将验证机制嵌入到运行助手的程序本身中。该研究公开了每次试验的成本记录、协议和全部日志,对AI供应链安全、软件工程实践和可信软件供应链研究具有重要参考价值。适合安全研究人员、AI助手开发者和科研软件维护者阅读。

💡 推荐理由: 首次量化证明AI编程助手在真实科研软件安装场景中几乎不检查任何供应链信任信号,直接影响软件供应链安全防线假设;对依赖助手自动化的团队发出警报。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)