换模型之后,Chatbot 为什么要自己做 compact?
官方 compact 加密块卡在厂商边界 官方 compact 机制把压缩后的对话摘要封装成加密块。这种设计在单一模型环境下工作良好,但一旦 Chatbot 决定切换底层大模型,加密块就过不了厂商边界。不同厂商的 API 对消息格式的校验规则不同,加密块被直接拒绝,导致整个长对话历史无法继续使用。 这不是理论问题,而是真实工程场景里反复出……
专注于Android、Java、Go语言(golang)、移动互联网、项目管理、软件架构