▲ 慢即是快:2. Adam的尽头还是Muon? 科科学空间 kexue.fm 2026/10/15 在上一篇文章《慢即是快:1. Shampoo的尽头是Muon?》中,我们从凸优化的平均收敛结论出发,建立了“正交最慢下降”框架,并用于改进任意Kronecker积形式的预条件优化器。结果发现,在...… 讨论 登录后参与讨论 还没有评论,来说第一句吧。 科学空间 的其他文章 平均之路:从Attention到TTT 2026/11/01 从参数对称性到有效学习率 2026/10/27 连续化 Softmax Attention 2026/10/19 如何让GDN2更稳定一些? 2026/10/09 通过微扰分析求解等式约束优化问题 2026/10/03
讨论
登录后参与讨论
还没有评论,来说第一句吧。