▲ 连续化 Softmax Attention 科科学空间 kexue.fm 2026/10/19 Softmax Attention想必大家已经不陌生,它是定义在有限向量集合下的一个加权混合算子。文章《Continuum Attention》提出了一个很有意思的想法——将注意力连续化。这让笔...… 讨论 登录后参与讨论 还没有评论,来说第一句吧。 科学空间 的其他文章 平均之路:从Attention到TTT 2026/11/01 从参数对称性到有效学习率 2026/10/27 慢即是快:2. Adam的尽头还是Muon? 2026/10/15 如何让GDN2更稳定一些? 2026/10/09 通过微扰分析求解等式约束优化问题 2026/10/03
讨论
登录后参与讨论
还没有评论,来说第一句吧。