Longlong's Blog
blog.xlonglong.cn
原始transformer的FFN层 原始transformerFFN层非常简单，就是一个升维+降维的操作，中 […] <p>The post RELU到SwiGLU：LLM中FFN层的演变 first appeared on Longlong's Blog .</p>…
原始transformer的FFN层 原始transformerFFN层非常简单，就是一个升维+降维的操作，中 […] <p>The post RELU到SwiGLU：LLM中FFN层的演变 first appeared on Longlong's Blog .</p>…
讨论
登录后参与讨论
还没有评论，来说第一句吧。