并行解码

扩散语言模型提速270%：AI推理成本战的新变量

新加坡国立大学DMax模型将扩散语言模型并行解码效率提升近3倍，若此技术路线成熟，AI推理成本将再次跳水，倒逼所有依赖API计费的企业重新核算ROI。