▲ 简单谈谈K3的MoE和Attention 科科学空间 kexue.fm 2026/08/04 上个月，我们发布了迄今为止最大的开源模型K3。作为K2的继任者，K3并不是一次从零开始的重新设计，而是沿着我们过去一系列工作自然演化而来，并融合了我们对效果、效率、稳定性的一些最新理解和改进。可...… 讨论 登录后参与讨论 还没有评论，来说第一句吧。 科学空间 的其他文章 如何让GDN2更稳定一些？ 2026/10/09 通过微扰分析求解等式约束优化问题 2026/10/03 慢即是快：1. Shampoo的尽头是Muon？ 2026/09/28 排序不等式及其推广 2026/09/21 让炼丹更科学一些（十）：单调性假设的拆与补 2026/09/14
讨论
登录后参与讨论
还没有评论，来说第一句吧。