NVFP4

本地运行 Gemma 4 26B：vLLM 与 NVFP4 量化指南

一个可用的 bash 脚本通过 Docker 在消费级硬件上使用 vLLM 和 NVFP4 量化运行 Gemma 4 26B。