▲ 平均之路:从Attention到TTT 科科学空间 kexue.fm 2026/11/01 在文章《将Softmax Attention线性化为Gated DeltaNet》中,我们提供了一个将Softmax Attention线性化为Gated DeltaNet的参考过程,它演示了我...… 讨论 登录后参与讨论 还没有评论,来说第一句吧。 科学空间 的其他文章 从参数对称性到有效学习率 2026/10/27 连续化 Softmax Attention 2026/10/19 慢即是快:2. Adam的尽头还是Muon? 2026/10/15 如何让GDN2更稳定一些? 2026/10/09 通过微扰分析求解等式约束优化问题 2026/10/03
讨论
登录后参与讨论
还没有评论,来说第一句吧。