上下文压缩不必把生成摘要和切换上下文绑在一起:缓存温热时准备,按 TTL 判断失效后在空闲边界应用,并让用户看见、选择是否重新读取原文。
摘要先备好,别急着替对话换脑子


上下文压缩不必把生成摘要和切换上下文绑在一起:缓存温热时准备,按 TTL 判断失效后在空闲边界应用,并让用户看见、选择是否重新读取原文。

把可编辑行为说明从全局提示词拆出来,只完成了一半。另一半是按 provider 选择、在回合边界加载,并让变体与正文共同进入上下文指纹。

把上下文占用从一个数字改成带 provider 来源的读数,修复的不是计数精度,而是路由器使用证据的权限:没有对应测量,就不能提前判候选模型出局。