NVFP4

NVIDIA 自研 4 位量化把 26B 模型塞进消费显卡 — 精度损失不到 1%

NVIDIA 发布 NVFP4 量化版 Gemma-4-26B，压缩至 18.8GB 可在消费显卡运行，6 项基准测试精度损失均不超过 0.7%。4 位量化正从妥协变成优选，但这也是 NVIDIA 生态锁定的一步棋。