FARE: Forensic Acceptance Region Estimation for Catching Bait-and-Switch Image Generators
该论文研究 AI 图像生成器以不透明 API 形式部署后的完整性审计问题。现实中，客户只能查询已部署的服务，无法检查模型权重或架构，这给"调包"（bait-and-switch）留下空间：供应商可能先以某个生成器通过治理认证，之后在部署阶段
#model-integrity
共收录 6 条相关情报。
← 返回所有主题Seal, Then Sample: Sampled Layerwise Proofs for Verifiable LLM Inference from GPT-2 to 70B
该论文研究的是「外包大模型推理的可验证性」问题：当用户把推理任务交给第三方服务（云厂商、推理市场）时，如何让服务方向验证者证明其确实执行了指定模型的指定计算，并且没有篡改输出，同时把审计成本压到服务方可承受的水平。作者提出 Sampled
TERMon: Detecting Persistent Behavioral Threats in Edge AI via Hardware-Native Ternary Runtime Monitor
该论文针对边缘 AI 加速器在安全攸关场景（如控制物理执行器、访问控制决策、告警触发）中的运行时可靠性问题展开研究。作者指出，这类部署中模型一旦发生权重损坏、分布漂移或遭遇对抗输入，往往仍会输出格式正确、置信度很高的预测结果，导致故障在运行
The More It Says, the More You Pay: A Black-Box Audit of Provider-Side Token Inflation in LLM Services
该论文关注按 token 计费的 LLM 服务中的一个经济安全风险：不诚信的服务提供方可以在基本保持任务可用性的前提下，隐蔽地操纵生成过程以抬高输出 token 数量，从而让用户支付更多费用。作者将这类操纵定义为“提供方侧 token 膨胀
Modelstamp: Pre-Deserialization Verification of Machine-Learning Artifacts and Runtime Environment State
本文提出 Modelstamp，一个轻量级 Python 持久化库，旨在解决机器学习模型在反序列化之前的完整性验证与运行时环境状态核验问题。研究背景是：已持久化的 ML 模型可以保持字节完全一致，但其加载所依赖的软件环境会随时间演变，因此仅
Trigger the Straggler: Load Hijack on Mixture-of-Experts LLMs
本文提出了一种针对混合专家（Mixture-of-Experts, MoE）大语言模型的新型供应链攻击方法——Load Hijack。在MoE模型的专家并行（Expert Parallelism, EP）服务架构中，不同专家被分布到多个GP