#humanoid-robot

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Xukun Luan, Zhongxiang Lei, Chen Gong, Shaowei Li, Yuanguo Bi, Jinyan Liu

本文关注强化学习(RL)人形机器人控制中的「运动遗忘」问题。近年来,借助人类动捕示范数据训练的策略已能让实体人形机器人完成多样化、敏捷且自然的运动(如舞蹈、格斗、翻腾等)。然而,一旦这些策略训练完成,如何从已学习的策略中定向「抹除」某几类特定运动,此前几乎没有被系统研究。作者指出该问题背后有两类现实驱动力:一是安全与隐私,例如被投毒、被注入恶意行为或训练质量欠佳的运动需要从策略中剔除;二是合规与版权,在 GDPR 等法规的「被遗忘权」框架下,受版权保护的运动数据需要能够从模型中移除。为此,作者提出 ForgetMimic,自称是首个面向物理世界人形机器人控制的运动级遗忘(motion-level unlearning)方法。其核心设定是:给定一个在 N 种运动上训练好的策略 πθ,方法需要让策略在目标 K 种运动上的表现显著退化(遗忘),同时保持其余 N−K 种运动的能力不受影响(保留)。作者进一步指出,机器人控制训练中存在两个关键训练机制会导致遗忘失败,并给出了相应的解决手段,这构成方法的技术要点。实验在 Unitree G1 与 H2 两型人形机器人、共 12 种运动(含舞蹈、格斗、翻腾等)上展开,结果表明 ForgetMimic 能有效消除指定运动的记忆,同时让其余运动维持正常工作。该工作把机器遗忘从分类/生成模型拓展到连续控制的物理机器人领域,兼具安全、合规与模型治理意义。适合从事机器人学习、RL 安全、模型遗忘与 AI 治理的研究者与工程师阅读。

💡 推荐理由: 机器遗忘此前多集中于视觉与语言模型,本文首次把它落到物理人形机器人的连续控制策略上:被投毒/恶意运动可被定向剔除,受版权或 GDPR 约束的运动也能被移除,为机器人策略的合规下架与后门清理提供了可操作范式。

🎯 建议动作: 研究跟进:关注其「导致遗忘失败的两个训练机制」及在多机器人平台上的泛化性,评估是否可纳入内部机器人策略治理与模型下架流程。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)