▲ 什么是 Prefix Cache 陈陈少文的博客 chenshaowen.com 2025/09/11 1. 什么是 Prefix Cache 在模型推理场景下，经常会使用缓存机制来提升吞吐和性能。常见的有两种缓存机制： Key-Value Cache (KV Cache)，面向的是单次请求的内部，将 Transformer 模型中间计算结果（Key 和 Value）缓存起来，避免重复计算 Prefix Cache，面向的是多次请求时，利用 Prompt 的公… 讨论 登录后参与讨论 还没有评论，来说第一句吧。 陈少文的博客 的其他文章 更适合 VibeCoding 的应用部署平台 - AppLab 2026/09/27 llms.txt：让 AI 读懂你的网站 2026/09/20 deepseek-harness-remote-node 2026/09/12 RDMA 运维 2026/08/22 AI Agent 之下，中台会消失吗 2026/08/20
讨论
登录后参与讨论
还没有评论，来说第一句吧。