Beware EviLLM: Enabling Vulnerability Injection via Large Language Models
该论文研究了 AI 辅助代码生成（LLM 根据自然语言需求生成代码）场景下的一种新型供应链攻击面，作者将其命名为 EviLLM 攻击。此前相关研究多集中在两类不太现实的威胁模型：一是良性场景，即漏洞是 LLM 无意中引入的；二是非常规威胁模
#ai-supply-chain
共收录 8 条相关情报。
← 返回所有主题Retrospective Distillation Attribution via Normalized Response Similarity
模型蒸馏通过在监督微调（SFT）阶段使用教师模型（通常来自商业 API）生成的回复来迁移能力，这使蒸馏后模型的来源归属（provenance）成为合规、许可与知识产权层面的现实问题。已有的蒸馏归因方法大多假设学生模型在 SFT 刚结束时就被
From Bits to Beliefs: Recoverable Semantic Fingerprints for Black-Box Verification of Large Language Models
该论文关注开放权重大语言模型（Open-weight LLM）在发布后被复制、微调并通过黑盒 API 二次分发的场景下，原始模型所有者难以进行发布后归属验证的问题。现有黑盒指纹方案通常依赖「秘密查询—密钥对」：向可疑模型发送特定触发输入，检
Dual-Locking Learned AI Models: A PIN-Based Sparse QIM Watermarking and Adaptive Index Permutation Approach
该论文研究的是训练后神经网络的知识产权保护与防未授权使用问题，提出了一套名为「双锁」的模型保护框架，把「密钥驱动的索引置换」与「基于 PIN 的稀疏 QIM 水印」结合起来。核心思路分两层：第一层是锁定机制，对自适应选出的索引向量（如权重矩
Characterizing Network Centralization and Observability in the Remote MCP Ecosystem
该论文聚焦于 Model Context Protocol（MCP）从本地进程执行向远程 Streamable HTTP 部署演进过程中，整个生态在规模化后暴露出的架构集中度与安全可观测性问题。作者认为，MCP 已成为自治智能体连接外部数据
Reflections on Trusting Trust, Revisited: Contaminating Self-Modifying AI Coding Agents with Poisoned Benchmarks
该论文重新审视了 Thompson 在《Reflections on Trusting Trust》中提出的编译器后门问题，将其扩展到自我修改的 AI 编码代理场景。传统攻击中，被污染的编译器即使重新编译干净源码也会重新插入后门；作者提出疑
Fusing Spectral Signatures and Activation Clustering for Backdoor Detection in Healthcare Imaging Models: Method, Implementation, and Evaluation
该论文研究医疗影像诊断模型中的后门（训练期投毒）检测问题。作者指出，医疗行业指南已把模型投毒与对抗攻击列为需要专门防御的行业级威胁，联邦政策也要求把 AI 漏洞检测工具扩展到农村医院等关键基础设施运营方，因此面向医疗影像流水线的后门检测具有
Don't Trust the AI Ecosystem: Analyzing Privacy Leakage in Compromised Open-Source Components
本文针对 AI 供应链中开源组件被篡改导致的数据泄露问题，提出了一种名为 GradLock 的新型训练时注入攻击。传统模型反演攻击依赖训练后优化，受限于模型泛化瓶颈，难以在高维数据集上恢复具体身份特征。GradLock 在受损供应链场景下，