The Poisoned Conversation: Privacy-Leaking Watermarks in Unified Multimodal Models
该论文关注统一式多模态模型（unified multimodal models）带来的新型隐私威胁。此类模型在同一个对话上下文中既能理解也能生成文本、图像等多种模态，交互更流畅自然，但这一设计也改变了原有的隐私威胁模型：对话某一部分暴露的信
#model-poisoning
共收录 11 条相关情报。
← 返回所有主题Cybersecurity in Edge Computing: A Trust-Aware Federated Hybrid Intrusion Detection Framework
背景与问题：边缘计算把数据处理下沉到终端用户与 IoT 设备附近，降低了时延并缓解回传带宽拥塞，但由于边缘节点异构、资源受限、且往往部署在非受管的管理域中，攻击面被指数级放大，这些节点成为高价值且脆弱的目标。同时，全球范围内的数据隐私法规又
Backdoor Mitigation in Decentralized LLM Fine-Tuning
去中心化大语言模型（LLM）微调允许多个机构在不汇聚原始数据、也没有中心协调者的情况下，协作训练一个共享的 LLM。其典型流程是：每一轮中，每个节点在通信图上与邻居交换可训练的适配器（adapter），随后在本地对收到的适配器进行聚合更新。
OPFL: Optimistic Verification of Federated Learning via Empirical Boundary
联邦学习允许多个客户端在不共享私有数据的前提下协同训练模型，但服务器对本地训练过程缺乏可见性，既无法确认客户端是否严格遵循既定训练流程，也难以发现模型投毒等恶意更新。一种直观的验证思路是“重放”客户端训练：用相同配置重新执行训练并比对结果。
Poster: FedWM-Guard: Thwarting Imagination Poisoning in Federated World Model-based Autonomous Driving
该论文聚焦联邦学习（FL）与世界模型（WM）结合用于自动驾驶（AD）这一新兴交叉场景。联邦世界模型自动驾驶（federated WM-AD）允许各车辆在不上传原始私有驾驶数据的前提下协同训练世界模型，从而获得更强的环境预测与规划能力；但论文
When the World Lies: Backdoor Attacks on Latent World Models for Downstream Control
论文揭示：把预训练的潜在世界模型（把观测编码为潜在状态、并预测其在动作下如何演化的学习型模拟器）当作下游控制任务的“现成动力学骨干”来复用，会引入一条供应链后门。攻击者只需控制发布的模型检查点，就能劫持下游控制器——而受害者完全在干净数据上
Fusing Spectral Signatures and Activation Clustering for Backdoor Detection in Healthcare Imaging Models: Method, Implementation, and Evaluation
该论文研究医疗影像诊断模型中的后门（训练期投毒）检测问题。作者指出，医疗行业指南已把模型投毒与对抗攻击列为需要专门防御的行业级威胁，联邦政策也要求把 AI 漏洞检测工具扩展到农村医院等关键基础设施运营方，因此面向医疗影像流水线的后门检测具有
Model-Consistent Byzantine-Resilient Decentralized Federated Learning for Collaborative Missions
本文提出了一种名为 DFL-C 的新型拜占庭鲁棒去中心化联邦学习（DFL）架构，旨在解决去中心化场景下全局模型一致性问题。传统的去中心化联邦学习允许各节点在没有中央服务器的情况下协同训练 AI 模型，但现有方案无法保证全局模型一致性，这在任
Analysis of Federated Aggregation under Model Poisoning and Backdoor Attacks: A Reconstructed Cross-Dataset and Cross-Architecture Benchmark
本文是一篇关于联邦学习中聚合方法在模型投毒与后门攻击下鲁棒性的系统性比较研究。作者重建了一个包含500个单元格的评估矩阵，覆盖五种聚合方法（如Trimmed Mean、Krum等）、五个数据集、五种模型架构，以及四种记录条件：干净环境、符号
Evading Chain-of-Thought Monitoring Through Model Poisoning
该论文研究链式思维（Chain-of-Thought, CoT）监控在AI安全栈中的局限性。CoT监控假设模型的推理轨迹能够反映其真实行为，但作者通过模型投毒的手段挑战了这一假设。他们证明，攻击者可以在推理模型中植入后门，使模型执行攻击者指
EnCAgg: Enhanced Clustering Aggregation for Robust Federated Learning against Dynamic Model Poisoning
联邦学习在保护数据隐私的同时，面临来自恶意客户端的模型投毒攻击威胁，现有防御方法多依赖固定阈值或固定聚类数量来区分恶意梯度与良性梯度，难以适应动态变化的攻击策略，且由于客户端本地数据异构性，容易误丢弃良性梯度。针对这些问题，本文提出一种增强