Indi
行运设计师 luckydesigner.space

上个月有朋友跟我说,他的 AI 智能体每月光 API 费用就烧掉好几千美元。但奇怪的是,实际完成的任务量根本配不上这个数字——明明没干多少事,token 却烧没了。问题出在哪?答案藏在一个 99% 的人忽视的默认设置里:KV Cache………

讨论

还没有评论,来说第一句吧。

行运设计师 的其他文章