Certified Mechanistic Edits: Behavioral Guarantees for Skill Removal and Preservation
该论文关注神经网络“机制编辑”的可验证性，即通过消融、权重编辑或激活引导，从模型中移除某一有害能力（或技能），同时尽量保留其他有用能力。现有做法通常只靠测试集验证编辑效果，但有限测试无法覆盖连续、无穷的输入空间，因此无法保证在所有输入区域都
#machine-unlearning
共收录 25 条相关情报。
← 返回所有主题Mitigating Private Data Leakage in LLMs with Whiteout
该论文关注大型语言模型（LLM）训练数据中的隐私泄露问题。由于现代 LLM 的训练语料规模巨大且基本未经过滤，包含从几乎所有可访问网站抓取的内容以及大量用户输入，模型往往会记住并复现个人敏感信息（PSI），例如出生日期、电话号码和家庭住址。
Sleeping Secrets: How Fine-Tuning Reawakens Privacy Risks in Language Models
该论文研究的是大模型微调过程中的隐私风险复发问题。已有研究表明，在下游微调之后，模型可能重新暴露出经过对齐或遗忘处理后已无法通过直接查询获取的私有信息（即“微调恢复攻击”）。然而，此前的方法大多依赖一个不现实的假设：攻击者能够获得与原始训练
Faithful Dual-constrained Erasure for Robust LLM Safety Alignment
本论文关注大语言模型(LLM)安全对齐中的机器遗忘(machine unlearning)机制。移除模型中的危险知识、实现安全对齐通常依赖遗忘技术,但近期研究揭示了一个持续存在的安全风险:被「遗忘」的模型在面对再训练攻击(retrainin
RADNPO: Reference-free Adaptive Negative Preference Optimization for LLM Unlearning
本文关注大语言模型（LLM）的机器遗忘（machine unlearning）问题：模型在预训练阶段可能记忆敏感、隐私或受版权保护的内容，需要在尽量不重训的前提下定向移除特定知识。现有基于偏好优化（PO）的遗忘方法相比梯度上升（GA）类方法
What Does It Mean to Forget a Person? Individual-Level Unlearning in Vision-Language Models
这篇论文关注视觉-语言模型(VLM)中的隐私删除问题,指出现有研究与评测体系存在一个关键盲区。作者认为,从 VLM 中抹除某个具体个人的身份信息,远比抹除单条属性困难,因为个人数据并非以孤立字段形式存储,而是跨图像、文本等多种模态相互纠缠、
Machine Unlearning for Large Language Models: Foundations, Advances, and Agentic Extensions
本文是一篇关于大语言模型机器遗忘（Machine Unlearning, MU）的综述性研究，作者系统梳理了该领域的基础理论、最新进展，并首次将讨论范围从单一模型扩展到包含检索、外部记忆、工具调用和多智能体交互的复杂系统。论文的核心出发点是
The Tokens Remember: When Tokenization Bypasses Knowledge Editing and Unlearning
该论文研究开放权重大模型时代的一个关键安全问题：模型编辑（model editing）与机器遗忘（machine unlearning）被广泛用于在不重新训练的前提下修改或删除模型中的特定知识，以支撑合规删除（如被遗忘权）和有害内容抑制。但
ForgetMimic: Motion Unlearning for Reinforcement Learning Humanoid Control
本文关注强化学习（RL）人形机器人控制中的「运动遗忘」问题。近年来，借助人类动捕示范数据训练的策略已能让实体人形机器人完成多样化、敏捷且自然的运动（如舞蹈、格斗、翻腾等）。然而，一旦这些策略训练完成，如何从已学习的策略中定向「抹除」某几类特
Robust Industrial Cyber Physical Classification Using Neuromorphic Temporal Embeddings and Hybrid SNN XGBoost Under Machine Unlearning Attacks
该论文关注电力配电网数字化带来的安全后果：工控与关键基础设施侧的网络暴露面扩大，而现有入侵检测系统（IDS）多依赖计算开销大的深度学习模型，难以在边缘侧部署；同时，为适应数据分布漂移而进行的周期性重训练，又使模型暴露于「机器遗忘攻击」（ma
Machine Unlearning as Private Retroactive Algorithms
本文是理论计算机科学与数据隐私方向的研究论文，研究机器学习中的“机器遗忘”问题。传统机器遗忘旨在模拟“从头重新训练”的效果：当收到删除请求时，遗忘算法应产生一个结果，该结果与从未包含被删除数据点时从头训练得到的结果一致。近期研究表明，对于一
UBA-Inf: Unlearning Activated Backdoor Attack with Influence-Driven Camouflage.
本文标题为'UBA-Inf: Unlearning Activated Backdoor Attack with Influence-Driven Camouflage'，提出了一种名为UBA-Inf的新型后门攻击方法。根据标题推测，该攻击
ERASER: Machine Unlearning in MLaaS via an Inference Serving-Aware Approach.
本文针对机器学习即服务（MLaaS）中机器遗忘（machine unlearning）与推理服务之间的交互缺陷展开研究。MLaaS 基于从众多数据所有者收集的数据训练模型，提供低延迟的推理服务。为满足数据保护法规中的“被遗忘权”（RTBF）
Benign on Label, Malicious by Design: Clean-Label Dormant-to-Activated Backdoor via Machine Unlearning with Removable Camouflage
本文提出一种新型的干净标签休眠后门攻击框架，其核心特点是模型在训练后保持良性表现，只有在用户发起特定机器遗忘（machine unlearning）请求后才会被激活。现有后门攻击通常在植入后立即生效，容易在利用前被发现；而基于机器遗忘激活的
Auditable Machine Unlearning for Privacy-Compliant Ransomware Detection Using Multi-Shard SISA and Deep Reinforcement Learning
本文提出了一种可审计的勒索软件检测与遗忘框架，旨在解决现有机器学习检测器不支持选择性样本移除的问题，以满足GDPR和CCPA等隐私法规要求。该框架将深度强化学习与多分片SISA（分片隔离状态聚合）重训练相结合：核心检测器采用双深度Q网络（D
Auditing of Unlearning Algorithms
本文针对机器学习模型遗忘算法是否真正消除了训练数据影响的问题，提出了一种实用的审计方法。研究者设计了一个基于成员推断攻击的审计器，通过计算与数据相关的遗忘参数ε的下界，来评估遗忘算法是否达到其声称的隐私保证。在CIFAR-100和Shake
SCRUB-FL: Sanitizing and Cleansing Representations via Unlearning of Backdoors
联邦学习（FL）允许多方协作训练模型而不共享原始数据，但分布式特性使其易受后门攻击——恶意客户端在本地训练数据中嵌入隐藏触发器，操纵模型预测。现有防御主要在聚合前或聚合中生效，无法完全消除收敛后全局模型中残留的后门行为。此外，服务器在训练后
TrustErase: Auditable Instant Machine Unlearning with Passport-Embedded Representations
随着隐私合规AI需求的增长，机器遗忘变得愈发重要。然而，现有的基于重新训练或知识蒸馏的方法不仅计算成本高，而且难以验证。本文提出了TrustErase，一个可验证的无数据遗忘框架，利用护照嵌入表示实现即时、模块化且可审计的遗忘。核心思想是将
Fed-FBD: Federated Functional Block Diversification for Isolation, Privacy, and Surgical Unlearning
联邦学习（FL）允许多方协作训练模型而不共享原始数据，但标准方法（如FedAvg）将每个客户端视为黑盒，无法隔离对抗性贡献者、审计每个客户端的影响，或尊重已退出参与者的被遗忘权。本文提出Fed-FBD（联邦功能块多样化），一种模块化联邦架构
PURGE: Projected Unlearning via Retain-Guided Erasure
本文提出了一种名为 PURGE 的机器遗忘算法，其核心思想基于持续学习（Continual Learning, CL）与机器遗忘（Machine Unlearning, MU）的本质二元性：持续学习旨在学习新任务而不遗忘旧知识，而机器遗忘则