#lsb-steganography

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Armstrong Foundjem, Tsung-Hsien Chuang, Foutse Khomh, Mohamed Amine Merzouk

该论文关注 Transformer 模型供应链中的一个隐蔽威胁面:BERT、Vision Transformer(ViT)等模型的 32 位浮点权重中,尾数最低有效位(LSB)在数值上几乎不影响推理精度,却可被当作隐蔽信道,将恶意载荷编码进模型文件并随权重分发,从而在模型供应链中实现载荷隐藏与传递。作者提出 GrayShield——一种轻量、训练后(post-training)、零数据(zero-data)的权重净化(sanitization)方法。其核心思路是不去检测或推断载荷内容,而是直接、完整地覆写被声明为信道的尾数 LSB 区域:通过格雷码(Gray code)引导的低翻转序列来生成覆写模式,使相邻码字只变化一位,降低权重扰动;同时以带密钥的逐张量(per-tensor)相位参数提供模式多样性,避免攻击者预测覆写序列。由于覆写与载荷完全无关(无论是否使用密钥),净化后的目标比特不再携带任何原始载荷信息,官方声明的该信道容量被归零。实验方面,作者在 4 种 Transformer 模型预设与 2 个真实恶意软件载荷上,与 7 种训练后防御方法进行对比,并在 5 种攻击者变体下评估:GrayShield 对模型准确率影响低于 1%,恢复率降低(Recovery Reduction, RR)达到 49.96±0.66 个百分点;由于防御前的载荷恢复率实际上接近 100%,RR 接近 50 个百分点意味着净化后比特级恢复准确率已退化到二值随机猜测水平(约 50%)。论文强调其主要实证优势是能够稳定实现“接近随机”的净化效果,同时相比同样达到近随机水平的基线 PatternMask(PM)与训练后量化(PTQ),造成的权重分布偏移明显更小,从而更好地保持模型可用性。

💡 推荐理由: 模型权重文件正成为新的攻击载体,仅靠来源签名难以发现隐藏在被分发权重 LSB 中的载荷。该工作给出了一种不依赖数据、不改训练流程的通用净化思路,为模型市场、微调流水线与模型托管环节提供了可落地的供应链防护选项。

🎯 建议动作: 研究跟进,并纳入内部模型供应链准入与权重净化流程的评估

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)