Java不加糖's Blog
blog.javazero.top
残差连接是深度方向上的 RNN，Attention Residuals 把它换成深度方向上的 softmax 注意力。讲清 Full 与 Block 两种形式、每个符号的含义、K3 里 93 层怎么切成 8 块 9 个来源，以及 Hugging Face 代码里论文没写的实现细节。…
残差连接是深度方向上的 RNN，Attention Residuals 把它换成深度方向上的 softmax 注意力。讲清 Full 与 Block 两种形式、每个符号的含义、K3 里 93 层怎么切成 8 块 9 个来源，以及 Hugging Face 代码里论文没写的实现细节。…
讨论
登录后参与讨论
还没有评论，来说第一句吧。