低延迟推理

科技人工智能

Jevman:AI决策模型在Pac-Man游戏中竞技

Opper推出了Jevman基准测试项目,用于评估多个AI决策模型在实时游戏场景中的表现和低延迟性能。该项目让包括OpenAI的o1、Cloudflare的Clef、GPT-4o等多个模型在Pac-Man游戏中竞技,每个模型进行100场游戏测试。

科技人工智能

Mercury 2.5大语言模型发布

一家AI公司发布了Mercury 2.5大语言模型,在性能上实现了显著突破。该模型相比前代产品Mercury 2在智能水平上提升40%,同时推理速度达到1107个令牌每秒,并支持260K令牌的上下文窗口。