开发者发布了一个名为TurboFieldfare的开源推理引擎，用Swift和Metal编写，能够在任何M系Mac上运行4-bit量化的Gemma 4 26B模型，内存占用仅约2GB。该引擎通过在RAM中保持模型共享部分和KV缓存，同时从SSD流式传输路由专家的方式，有效解决了内存限制问题。模型的4-bit量化权重占…
Cactus团队通过后训练技术对Gemma 4模型进行改进，使其能够识别自身的错误并输出0至1之间的置信度分数 。