本地运行

科技人工智能

在Apple M1 Max上成功运行2.8万亿参数Kimi K3模型

Deltafin项目成功在Apple M1 Max笔记本电脑上实现了参数量为2.8万亿的Kimi K3大模型的本地推理。该项目通过专门的优化技术,证明了在消费级硬件上部署大规模混合专家模型的可行性,项目代码采用MIT许可证开源。