暮冬Z羡慕的博客
forcheetah.github.io
# 前言 本文介绍 VLLM 的 Online Softmax。 本文大部分内容来自于 【手撕 LLM-Flash Attention】从 softmax 说起，保姆级超长文！！ 。 参考链接： Transformer 模型详解（图解最完整版） ， Attention is All You Need ， Pytorch 版本的 Transformer 实现 、 一文了解 Transformer 全…
讨论
登录后参与讨论
还没有评论，来说第一句吧。