多令牌预测

性能

Gemma 4 在 Ollama 0.31 中通过多令牌预测实现近 90% 的性能提升

Ollama 0.31 为 Apple Silicon 上的 Gemma 4 引入了多令牌预测，在编码基准测试中实现了近 90% 的令牌生成速度提升。加速来自一个自动调优的草稿模型和一个消除冗余权重读取的自定义 MLX 内核。

2026-06-29