Codex 并没有全面放弃上下文压缩,只是把 Compaction 换成了硬切窗口 最近流传的说法称所有 Codex 都已经不再压缩上下文,这一判断并不准确。Codex 仍需把相关信息塞进固定长度的输入窗口,只是处理超长上下文的方式从生成摘要变成了直接截断。Context window 是大语言模型每次工作时的核心限制,模型必须把所有相关信……

阅读全文