成本效益

科技人工智能

开发者以998美元训练3.8B参数模型,性能超越GPT-2

Hugo Vergnes利用开源框架little-lm在NVIDIA B200 GPU上训练了一个包含3.8B参数的大语言模型,项目耗资仅998美元,完成时间为43小时。该模型在CORE基准上获得0.384分,超过了GPT-2 1.5B模型的0.2565分。

科技人工智能

AMD MI355X运行Kimi K3大模型性价比超越NVIDIA B300

研究人员成功在AMD MI355X GPU上部署了参数量达2.8T的大模型Kimi K3 。该模型需要超过1.5TB的显存 ,在1024-token输入/400-token输出的基准测试中,MI355X实现了952 tok/s/node的吞吐量 。