该论文研究差分隐私（DP）训练中梯度裁剪对 Muon 优化器更新几何的破坏问题。DP 训练通常对每个样本梯度进行径向裁剪再加噪，但不同样本的裁剪系数不一致，会扭曲这批梯度平均后的奇异向量相对几何结构。Muon 的更新量是近似极分解因子 UV^T，仅依赖奇异向量，因此对这种畸变尤其敏感。作者提出 Inner Momentum（IM）：在裁剪之前，将每个样本的 Muon 梯度在当前模型与最近若干历史模型上做平均。这样裁剪后的批量矩阵可分解为共同缩放项与协方差残差 R（样本梯度与裁剪值之间），并给出 Frobenius 范数上界 ||R||_F <= sigma_lambda sigma_G，直接约束裁剪导致的畸变。作者进一步证明，在相应谱条件下，有限步 Newton-Schulz 迭代保持输入的极分解因子，说明该修正能经受正交化过程而不被破坏。实验方面，在 E2E 与 DART 数据集上对 GPT-2 进行私有微调，ε 取 1、2、4、8；DP-Muon-IM 在所有同种子对比中均提升 BLEU 与 ROUGE-L，非私有诊断显示噪声注入前极分解误差降低 2–4%。该工作适合差分隐私优化、大模型隐私微调与优化器设计方向的研究者与工程师阅读。

本文聚焦于密码这一仍占主导地位的在线认证机制，研究人类如何选择密码——这对防守方的口令强度评估与攻击方的口令猜测模拟同样关键。此前 PassGAN、PassGPT 等深度生成方法已证明可以从泄露口令库中直接学习口令结构，但二者都是从随机初始化开始、仅依赖口令数据训练，语言学先验知识在口令建模中的作用、以及它能揭示的人类构造秘密的规律，仍未被充分探索。为此作者提出 PassGPT+：通过字符级（character-aware）分词，把 GPT-2 预训练获得的语言学先验迁移到口令观测数据上，即不再从零训练，而是以自然语言预训练权重为起点进行适配。同时作者提出 PassDiffusion——首个面向口令生成的吸收态离散扩散模型（absorbing-state discrete diffusion），作为探针检验非自回归方法在口令生成上是否具备竞争力。在 RockYou 基准上，PassGPT+ 在 108 次猜测预算内恢复出 22.53% 的留出口令，相对 PassGPT 取得 16% 的相对提升；更关键的是，在不重新训练的前提下迁移到一个完全不相交的 2020 年泄露数据集时，仍保留 79% 的匹配率，说明语言学先验捕获了人类口令生成中持续存在的规律。相比之下，PassDiffusion 的表现低两到三个数量级，表明对离散且要求精确匹配的口令生成任务而言，自回归建模比迭代去噪更契合。论文贡献可归纳为：实证语言学先验能显著提升口令建模效率与跨数据集泛化能力；给出自回归与非自回归两种建模范式的可比证据；并为进一步研究人类口令构造行为提供依据。