Indi
mizore / notes mizore.blog

Google Colab 的 G4 GPU 实例(NVIDIA RTX PRO 6000 Blackwell 96GB 显存 + 176GB 内存)刚好可以单卡跑满 dealignai/Qwen3.8-Flash-Next-CYBERSECURITY-NVFP4 的 262K 上下文 ,开启 MTP 投机解码后单流生成速度可达 130 ~ 176 tok/s 。 我把环境安装、预编译算子恢复、权重…

讨论

还没有评论,来说第一句吧。

mizore / notes 的其他文章