▲ 让炼丹更科学一些（九）：经典自适应梯度算法 科科学空间 kexue.fm 2026/09/05 本系列前面八篇文章，都是在围绕SGD及其学习率讨论。而从本文开始，我们将正式进入自适应梯度算法的世界。可以说，现在所有的自适应梯度算法，都有一个共同的源头，那就是2011年的经典之作《Adapt...… 讨论 登录后参与讨论 还没有评论，来说第一句吧。 科学空间 的其他文章 如何让GDN2更稳定一些？ 2026/10/09 通过微扰分析求解等式约束优化问题 2026/10/03 慢即是快：1. Shampoo的尽头是Muon？ 2026/09/28 排序不等式及其推广 2026/09/21 让炼丹更科学一些（十）：单调性假设的拆与补 2026/09/14
讨论
登录后参与讨论
还没有评论，来说第一句吧。