MuLoCo 用 Muon 内优化器改善 DiLoCo 多工作器训练

MuLoCo 论文正式发布：Muon 优化器能否修复 DiLoCo 多工作器训练的痼疾？

日前，一篇题为《MuLoCo: Muon is a practical inner optimizer for DiLoCo》的论文在 arXiv 上公开（编号 2505.23725v3），直接点出了当前分布式大模型训练中的一个关键矛盾——DiLoCo 框架在增加工作器数量时性能会下降，而穆昂（Muon）内优化器或许正是那把钥匙。研究团队认为，大家过去可能忽略了一个问题：内部优化器的选择，其实在悄悄制约着整个训练的上限。何来这样的效果呢？说白了，内部优化器生成的伪梯度质量，直接决定了外部优化器能跑多远。

DiLoCo 的尴尬：越多工作器反而越慢？

DiLoCo 原本是大语言模型训练的一把好手，它允许在有限网络带宽下使用更大的批次大小、提高硬件利用率。可当工作器数量（也就是论文里那个 K）往上加的时候，状况就开始变味了——根据论文引述的 Charles 等人 2025 年的工作，性能确实会随着 K 增大而明显下滑。咱们可以这么理解：工作器越多，大家各自算出的梯度方向就越分散，外部优化器反而不知道该信谁了。

穆昂对亚当W：数据并行训练的一次观念对调

研究团队这次瞄准的突破口，正是内部优化器的替换。之前大家普遍用亚当W（AdamW）作为 DiLoCo 内部的默认选项，但穆昂优化器最近在数据并行场景中表现出了明显优势。跟亚当W那种保守的逐参数学习率调整不同，穆昂更像是用一种全局视角来约束参数更新方向，这样在多工作器协作时，伪梯度的噪声就会小不少。这样一来，外部优化器拿到的信号就更干净，训练效率自然能保住。

实际落地：到底好不好用？

论文的实验结果算是一个挺明确的信号——穆昂作为内部优化器，确实让 DiLoCo 在多工作器场景下重新站稳了脚跟。它不需要改网络结构，也不需要增加额外的通信代价，说白了就是在已有框架里换个核心部件。对于正在部署大规模分布式训练的团队来说，这算是个低成本、高回报的调整方案。你可能会问：到底多大规模才算“大规模”？其实从几十张卡到上千张卡的集群，只要涉及工作器增多带来的梯度不一致问题，穆昂都有发挥空间。

一点总结：优化的本质，是选对方向

穆洛克（MuLoCo）这个名字本身就在强调“穆昂+迪洛克”的组合拳。研究团队把问题聚焦在内部优化器这个以往不太被注意的环节上，结果真的挖出了一个性能瓶颈。对于大模型训练这件事，有时候最关键的改进并不在于堆更多硬件，而是在算法环节里做一个精准的选择。可以说，这次工作给整个分布式训练社区提供了一个非常务实的参考——别再以为内部优化器只是个小配角了，它的影响可比想象的来得大得多！