Backdoor Containment via Expert Quarantine and Shutdown in LLMs
该论文研究大型语言模型（LLM）后门防御问题。被植入后门的 LLM 在正常输入上表现正常，但在隐藏触发器下会产生攻击者指定的输出。现有防御覆盖训练前、训练中、训练后和推理时四个阶段，底层策略可归为两类：一是抑制后门学习，例如过滤投毒数据或在
#model-security
共收录 10 条相关情报。
← 返回所有主题GuidedRay: Diversity-Guided Direction Discovery for Targeted Hard-Label Black-Box Attacks
该论文研究的是深度神经网络在黑盒设定下的定向对抗攻击问题，属于对抗机器学习领域兼具理论难度与工程意义的课题。背景是：DNN 对微小扰动敏感，而攻击按信息可见性可分为白盒与黑盒；黑盒中又以 decision-based（仅返回 top-1 标
Alleviating the Fear of Losing Alignment in LLM Fine-tuning.
本文研究大型语言模型（LLM）在微调过程中对齐（alignment）能力意外丧失的问题。尽管对齐训练可以促使模型拒绝回答不道德或有害的问题，但当模型针对下游任务进行微调时，这种对齐可能被削弱，导致模型再次输出有害内容。作者观察到，一个经过对
Sophon: Non-Fine-Tunable Learning to Restrain Task Transferability For Pre-trained Models.
本文提出了一种名为 Sophon 的新型保护框架，旨在防止预训练模型被恶意微调到不道德或非法的下游任务（如隐私推断、不安全内容生成），同时保持模型在原始任务上的性能。作者将这一目标定义为“非微调学习”（non-fine-tunable le
Beyond Vector Hiding: Breaking and Mitigating Shared-Direction Weight Obfuscation in TEE-Offloaded Large Language Models
本文针对TEE卸载的LLM推理中一种防御方案ArrowCloak发起安全分析。TEE卸载将大模型线性层以混淆形式交给不可信加速器，在可信环境内仅保留小规模修正，以在保护模型权重的同时加速推理。先前攻击ArrowMatch利用权重向量方向不变
TEE-X: TEE-aware Acceleration Framework for Large Vision Models at the Edge
本文提出 TEE-X，一个面向可信执行环境（TEE）的加速框架，旨在解决大型视觉模型（如 Vision Transformer, ViT）在边缘设备上部署时面临的内存限制和计算延迟问题。研究背景是：机器学习模型，尤其是视觉应用，容易受到多种
Bit-Flip Attacks on Vision-Language-Action Models: Action-Decoding Architecture Shapes the Vulnerability
该论文首次系统研究了量化视觉-语言-动作（VLA）模型在权重位翻转攻击下的安全脆弱性。研究背景在于，VLA模型通常以INT8量化部署于边缘设备，而Rowhammer等硬件故障可导致模型权重中的比特位被翻转，从而破坏模型的决策行为。论文提出了
FreeEagle: Detecting Complex Neural Trojans in Data-Free Cases.
本文针对深度神经网络中的木马（后门）攻击检测问题提出了一种新的无数据方法 FreeEagle。后门攻击是一种典型的人工智能威胁，被植入木马的模型在遇到带触发器的输入时会产生攻击者指定的异常行为，而在干净输入下表现正常。现有的后门检测方法大多
SecurityNet: Assessing Machine Learning Vulnerabilities on Public Models.
该论文提出了一个名为 SecurityNet 的框架，旨在系统性地评估公开机器学习模型的安全性弱点。随着预训练模型在开源社区（如 Hugging Face）广泛发布，攻击者可能利用这些模型中的后门、对抗性扰动等漏洞。SecurityNet
Fed-FBD: Federated Functional Block Diversification for Isolation, Privacy, and Surgical Unlearning
联邦学习（FL）允许多方协作训练模型而不共享原始数据，但标准方法（如FedAvg）将每个客户端视为黑盒，无法隔离对抗性贡献者、审计每个客户端的影响，或尊重已退出参与者的被遗忘权。本文提出Fed-FBD（联邦功能块多样化），一种模块化联邦架构