Lenix Blog
blog.p2hp.com
ai大模型对话的历史数量多少最合适 让我从实践角度来分析对话历史长度的合适选择： 简短回答：通常建议保持3-5轮对话历史最为合适，这能在上下文理解和系统资源消耗之间取得较好平衡。 具体分析： 1. 优点方面： - 保持较短对话历史(3-5轮)能确保模型响应速度快 - 减少token消耗,降低使用成本 - 避免历史信息干扰当前对话重点 2. 缺点方面： - 太短的历史可能导致上下文理解不足 - 太长…
讨论
登录后参与讨论
还没有评论，来说第一句吧。