Longlong's Blog
blog.xlonglong.cn
在现代 LLM 中，RMSNorm 已经成为非常常见的归一化方式。它可以看作是 LayerNorm 的一个简化 […] <p>The post 从 LayerNorm 到 RMSNorm：为什么可以去掉均值？ first appeared on Longlong's Blog .</p>…
在现代 LLM 中，RMSNorm 已经成为非常常见的归一化方式。它可以看作是 LayerNorm 的一个简化 […] <p>The post 从 LayerNorm 到 RMSNorm：为什么可以去掉均值？ first appeared on Longlong's Blog .</p>…
讨论
登录后参与讨论
还没有评论，来说第一句吧。