Wayne的技术博客
blog.michealwayne.cn
大模型缓存技术工程指南（上）：从价格信号到推理缓存机制 版本说明 ：本文为“上篇”三次优化版，面向工程团队理解大模型缓存技术的底层机制、成本含义和系统设计边界。本文会少量出现 Prompt 组织示例，但仅用于解释缓存机制；系统化 Prompt / Agent 工程实践放在下篇展开。 时效性提示 ：本文涉及的模型厂商缓存价格、TTL、最低 token 门槛、支持模型范围、API 字段名称具有较强时效…
讨论
登录后参与讨论
还没有评论，来说第一句吧。