DeepSeek-V4.1 模型结构（1）：序列维度（上），CED

Java不加糖's Blog blog.javazero.top 2026/10/02

prompt 里的一个 token 为什么非得过完所有层？从「后面的 token 到底读了它的什么」出发，推出只要上半层的全局 KV 改由中间层的输出投影，上半层就不用为 prompt 算。这是 YOCO 的思路。本篇讲 CED 在它上面改了哪三处，改动为什么让提前退出不再精确，Decoder SWA Bounded Replay 怎么用 128 个 token 的回放把它补上，以及 8B 和 1…

讨论

还没有评论，来说第一句吧。

Java不加糖's Blog 的其他文章

DeepSeek-V4.1 模型结构（8）：KV cache 的管理与 SWA Bounded Replay 2026/10/02
DeepSeek-V4.1 模型结构（7）：输入端与优化器 2026/10/02
DeepSeek-V4.1 模型结构（6）：解码，DSpark 2026/10/02
DeepSeek-V4.1 模型结构（5）：记忆，Engram 2026/10/02
DeepSeek-V4.1 模型结构（4）：深度维度，Single-Pass mHC 2026/10/02