暮冬Z羡慕的博客
forcheetah.github.io
# 前言 本文介绍 FlashAttention。本文只关注 FlashAttention 前向推理部分的应用。 参考链接： Transformer 模型详解（图解最完整版） ， Attention is All You Need ， Pytorch 版本的 Transformer 实现 、 一文了解 Transformer 全貌（图解 Transformer） 、 大模型推理加速：看图学 KV …
讨论
登录后参与讨论
还没有评论，来说第一句吧。