Flide

科技人工智能

Flide 发布:专为 Jev 风格决策模型打造的高速推理引擎

开发者在 Hacker News 平台推出了名为 Flide 的人工智能推理基础设施,该工具专门针对 Jev 风格的决策模型进行优化 。Flide 采用“精确状态分叉”技术,宣称其处理速度相较于 vLLM 和 SGLang 等主流框架提升最高可达 9.5 倍 。项目遵循 Apache-2.0 开源协议,其中部分内核代…