▲ vLLM 部署 PD 分离应用 陈陈少文的博客 chenshaowen.com 2025/09/20 1.为什么要 PD 分离部署大模型应用 在大模型推理的过程中，有两个串行阶段： 处理全量的输入上下文，生成 KV Cache（Prefill 阶段） 增量生成新的 token（Decode 阶段） 这两个阶段对资源的需求不一样。Prefill 阶段要计算大量的 KV Cac… 讨论 登录后参与讨论 还没有评论，来说第一句吧。 陈少文的博客 的其他文章 更适合 VibeCoding 的应用部署平台 - AppLab 2026/09/27 llms.txt：让 AI 读懂你的网站 2026/09/20 deepseek-harness-remote-node 2026/09/12 RDMA 运维 2026/08/22 AI Agent 之下，中台会消失吗 2026/08/20
讨论
登录后参与讨论
还没有评论，来说第一句吧。