端侧部署

AI模型量化告别全盘降级，混合精度拓扑设计成工程新解

AI模型在16位切8位部署时易精度崩塌，新方法提出以8位为底座、对敏感层做16位升级的“等效拓扑”设计，兼顾性能与精度，标志着模型部署走向精打细算。