大语言模型压缩

科技人工智能

Sub-1-Bit LLM 压缩技术 LittleBit 入选顶级会议

Banseok Lee 和 Youngmin Kim 发布了 LittleBit,一项通过潜在因子分解技术将大语言模型压缩至 sub-1-bit 体系的方法。该技术支持 0.1 至 1.0 bits-per-weight 的压缩范围,已被纳入 NeurIPS 2025 会议。

科技人工智能

PrismML发布Bonsai 2 27B模型:9倍压缩率下保留98%性能

PrismML推出了Ternary Bonsai 2 27B模型,该模型基于阿里巴巴的开源Qwen 27B模型,采用三值量化技术实现显著的模型压缩。经过压缩后,模型大小仅为5.9GB,相比全精度版本缩小9至10倍,使高性能推理能够在个人电脑和智能手机等本地设备上运行。