关于codex 上下文提升到353K的实际影响🌐 链接:

我查询了下历史记录，之前工作上下文是272K，然后240K压缩。现在提升到了353K。但是353K超出272还是多少的部分我忘了，是有倍数成本的， 之前为了解决这个问题，将他降低回到了272 和 240.然后今天明显发现缓存率降低了。而且工作时长提升了，效率降低了，实际成本貌似没太大差别。 后来我计算了下，在272k的情况下 缓存命中平均是95%多一点。而353K（也就是更新5.6后）缓存命中大概98.6%。 因此虽然超过272k的部分输入输出成本增加，但是因为有缓存。实际成本没增加…