CUDA

找到 2 篇关于此标签的文章

PyTorch英伟达

PyTorch 占据八成开发者桌面 — 大模型淘金热里，卖铲子的依然是英伟达

PyTorch 已成 AI 开发事实标准，但软件层的统一反而凸显了硬件层 CUDA 的垄断门槛。大模型竞争的瓶颈，正从框架之争退回到显卡算力与配环境上。

Gemma 4llama.cpp

Gemma 4 本地 CUDA 设置：精度陷阱与真实基准测试

在本地 CUDA 上运行 Gemma 4 时，若 KV 缓存边界处的数据类型不严格匹配，输出将静默退化。