Folia
← 返回头版

Edge0-145B:AutoArk团队开源端侧前沿AI模型,实现本地高性能推理

AutoArk团队(Edge0 Team)开源了全球首个拥有1450亿参数的端侧AI模型Edge0-145B及配套统一推理框架 1。该模型旨在让高性能编码、推理和Agent能力在个人电脑上本地运行 1。通过架构、训练、加载和调度四层设计创新,Edge0-145B在保持仅约100亿参数参与单次计算的同时,实现了媲美云端前沿模型的性能,显著降低了内存占用并消除了云API成本 1。

在性能指标方面,Edge0-145B在笔记本电脑上可实现80+ tokens/s的生成速度,峰值内存为28GB 1。其前代模型Edge0-35B在iPhone 18 Pro Max上运行时达到37+ tokens/s的速度,且内存低于2.5GB 1。基准测试得分显示,该模型在DeepSWE 1.1中得分为64.6,优于Qwen3.8-Flash-Next的58.7分;GPQA-Diamond得分为90.4;IFBench得分为80.6;Terminal-Bench 2.1得分为86.52 1。

核心技术创新包括稀疏专家共享矩阵架构、面向本地执行的训练策略、GPU/系统内存/SSD三级流水线加载机制以及CPU与GPU协同调度 1。应用案例显示,Edge0-145B能在本地完成复杂的视频制作、3D建模(如曼哈顿城市场景)、游戏开发及硬件控制(如无人机编程),无需云端Token费用 1。支持平台包括macOS、Windows、Linux,兼容Apple M系列芯片及NVIDIA RTX Spark、4090、5090等硬件 1。


评论