GrayShield: Bit-Level Sanitization for Transformer Model Supply-Chain Security
该论文关注 Transformer 模型供应链中的一个隐蔽威胁面：BERT、Vision Transformer（ViT）等模型的 32 位浮点权重中，尾数最低有效位（LSB）在数值上几乎不影响推理精度，却可被当作隐蔽信道，将恶意载荷编码进
#model-supply-chain
共收录 10 条相关情报。
← 返回所有主题FragToken: Amplifying LLM Inference Costs through Noncanonical Token Generation
该论文研究的是大模型推理阶段的一种新型资源消耗（成本放大）攻击面。背景是：随着 LLM 推理成本不断攀升，针对模型服务方的资源耗尽攻击日益受到关注。已有攻击通常通过触发超长或高度重复的输出来放大成本，但这依赖攻击者可控或可触发的请求，在正常
RAMP: Reversing Adversarial Perturbations to Strengthen Clean-Label Backdoor Attacks against Malware Detectors
本文研究的是深度学习恶意软件检测器在持续更新流程中面临的训练时后门威胁。当前主流做法是：检测器部署后，会不断把新采集到的样本加入训练集并进行微调，以保证对新型恶意软件的识别能力。这一工程实践虽然提升了检测效果，却也把数据采集与更新流水线变成
LoRango: It Takes Two LoRAs to Unlock Hidden Behaviors in Diffusion Models
该论文研究文本到图像扩散模型（如 Stable Diffusion）中多 LoRA 适配器组合加载时的安全问题。背景是：用户常把多个低秩适配（LoRA）叠加使用，以实现不同主体、风格与视觉属性的个性化定制，而当前的安全审查通常只逐个检查单个
OPBackdoor: Opportunistic Backdoors via Alibi-Aligned Reasoning
该论文指出现有 LLM 后门研究普遍采用「触发充分」（trigger-sufficient）的建模范式：只要触发器出现，无论被触发的提示上下文如何，模型都会输出攻击者预设的目标响应。作者认为这种建模方式存在根本缺陷——因为目标响应与上下文无
Monet: Measuring the Ecosystem of Open-Source Text-to-Image Models Tailored for Harmful Services
该论文对开源文生图（T2I）生态中一类被刻意改造、用于提供有害服务的模型进行了首次系统性、生态级别的测量研究。作者将这类模型命名为 Monet。以往研究只针对单一平台上特定类型的有害 T2I 模型，但 Monet 并非孤立存在，其背后横跨模
Implementing a White-Box Undetectable Backdoor for Random Fourier Features
本文实现并评估了一类白盒条件下不可检测的后门。背景是 Goldwasser 等人此前证明：在使用随机傅里叶特征(RFF)训练的机器学习模型中，可以植入在白盒审计下也无法被检测的后门，其安全性建立在与连续学习误差问题(CLWE)相关的困难性假
DiffSafeMerge: Mitigating Backdoor Inheritance in Diffusion Model Merging
本文提出 DiffSafeMerge (DSM)，解决扩散模型 checkpoint 合并过程中的后门继承问题。在无条件下扩散模型合并场景中，通常假设来自公共仓库的 checkpoint 是良性来源，但攻击者可能发布一个包含休眠后门的恶意
Has This Checkpoint Been Abliterated? A Two-Signal Audit and Its Failure Map
该论文研究一个关键的安全问题：在部署开源权重的大语言模型（LLM）检查点之前，如何判断其是否被恶意剥离了“拒绝机制”（refusal mechanism，即模型原本拒绝回答有害请求的能力）。现有的运行时防护手段仅能评估模型生成的输出，而无法
Lifecycle-Aware Dynamic Analysis for Secure ML Model Execution
该论文聚焦于机器学习模型执行过程中的安全威胁。随着预训练模型的广泛复用，攻击者可以将恶意行为嵌入模型文件，而现有基于静态规则或已知签名的方法难以泛化到不同框架且无法检测未知漏洞。作者提出一种动态生命周期感知分析方法，核心观察是ML模型在明确