这篇文章介绍了把 AI 编程的活动上下文从 1M 压到 30 万 token 后,花费明显下降、体验却没变差的经历。文章从 **lost in the middle** 现象说起,解释上下文窗口并非越大越好;再结合 OpenAI Codex 产品负责人 Alexander Embiricos 的采访,拆解 **compaction** 机制如何横跨模型、API 和 harness 三层。文中还分享…
这篇文章介绍了把 AI 编程的活动上下文从 1M 压到 30 万 token 后,花费明显下降、体验却没变差的经历。文章从 **lost in the middle** 现象说起,解释上下文窗口并非越大越好;再结合 OpenAI Codex 产品负责人 Alexander Embiricos 的采访,拆解 **compaction** 机制如何横跨模型、API 和 harness 三层。文中还分享…
讨论
登录后参与讨论
还没有评论,来说第一句吧。