扩散语言模型杀进端侧后,Agent执行速度提升5倍。这条路线不追求更大模型,而是改变生成方式并叠加端侧芯片并行算力,压缩任务时间。长期依赖云端大模型的Agent由此找到新出路,GPT下一代替代者开始浮现。 扩散模型用并行去噪取代自回归逐词生成 自回归大语言模型的核心机制是逐 token 生成。模……

阅读全文