▲ 让炼丹更科学一些（八）：多阶段训练的学习率 科科学空间 kexue.fm 2026/08/31 上篇文章《让炼丹更科学一些（七）：步长调度与权重平均》我们简单介绍了无调度（Schedule-Free）学习率的工作，它试图通过某种权重平均来替代学习率调度，实现常数学习率就可以训出最优模型的效...… 讨论 登录后参与讨论 还没有评论，来说第一句吧。 科学空间 的其他文章 如何让GDN2更稳定一些？ 2026/10/09 通过微扰分析求解等式约束优化问题 2026/10/03 慢即是快：1. Shampoo的尽头是Muon？ 2026/09/28 排序不等式及其推广 2026/09/21 让炼丹更科学一些（十）：单调性假设的拆与补 2026/09/14
讨论
登录后参与讨论
还没有评论，来说第一句吧。