推测解码

找到 1 篇关于此标签的文章

Gemma 4 发布时 Google 禁用了隐藏的 MTP 头部

开发者在 Gemma 4 的 LiteRT 文件中发现了多 token 预测权重；Google 确认 MTP 存在但被故意禁用，旨在确保兼容性与广泛可用性。