推测解码(Speculative Decoding)技术能够显著加快大语言模型的推理速度，但其加速原理与直观认知不同。虽然这一技术会增加总的浮点运算量而非减少，但它通过改变GPU的计算负载类型实现了性能提升。传统的大模型推理属于内存密集型工作，需要为每个生成的token流式传输整个模型参数——以Qwen3.5-27B…