前面几篇讲了 loop 遇到错误时 能自己恢复的都自己恢复 —— max_tokens 上调重试、context 满触发 compact、stop_reason refusal 换模型建议。 但这些都是 语义级 错误(LLM 结果不对头)。 真实产品面对的还有一整类 基础设施级 错误: 网络挂了 · 请求根本没发出去 API 返 500 —— 服务器内部错误 API 返 429 —— rate l…
前面几篇讲了 loop 遇到错误时 能自己恢复的都自己恢复 —— max_tokens 上调重试、context 满触发 compact、stop_reason refusal 换模型建议。 但这些都是 语义级 错误(LLM 结果不对头)。 真实产品面对的还有一整类 基础设施级 错误: 网络挂了 · 请求根本没发出去 API 返 500 —— 服务器内部错误 API 返 429 —— rate l…
讨论
登录后参与讨论
还没有评论,来说第一句吧。