边缘计算

科技人工智能

英伟达推出新开源模型助力企业和个人电脑部署AI代理

英伟达推出新的开源模型产品线,用于在企业和边缘计算场景中运行AI代理。其中,面向企业的Nemotron 3.5 Super VL拥有1200亿参数,性能与Nemotron 3 Ultra相当;针对个人电脑的Bolt系列包括740亿参数的Bolt 74B-A9B和轻量级会话代理模型Bolt E4B。Super VL和B…

科技人工智能

LFM2.5-24B-A2B:为边缘设备智能体打造的高效推理模型

Liquid AI发布了LFM2.5-24B-A2B模型,这是一个专为快速、私密的边缘设备智能体设计的推理模型。该模型拥有24B参数规模,但仅有2B参数在推理时处于激活状态,大幅降低了计算资源需求。模型的开源权重已发布至Hugging Face。

科技人工智能

Whistle:16.9 MB语音识别模型发布

Cactus Compute团队发布了Whistle语音识别模型,文件体积仅为16.9 MB,可在CPU上运行且无任何依赖。该模型支持转录、词级时间戳和语音嵌入三项核心功能,覆盖英语、德语、法语、西班牙语、意大利语、荷兰语和波兰语七种语言。

科技人工智能

谷歌发布EmbeddingGemma 2多模态嵌入模型

谷歌推出了EmbeddingGemma 2,一款开源轻量级多模态嵌入模型,包含7.4亿参数,在Apache 2.0许可证下发布。该模型支持将文本、代码、图像、视频和音频映射到统一的嵌入空间,优化用于设备端推理,前代版本已获得超过2000万次下载。

科技互联网

Netlify Edge Functions性能提升5倍,迁移至Firecracker MicroVM架构

Netlify已将其Edge Functions基础设施从V8隔离迁移至自有边缘网络内的Firecracker MicroVM,实现显著的性能改进 。新架构使中位延迟从25-40ms降至约5-6ms,P99延迟提速47.4% 。这一迁移过程是与Unikraft团队密切合作完成的 ,用户端无需进行任何代码更改 。

科技人工智能

PrismML在高通骁龙峰会展示智能眼镜专用小型语言模型

AI实验室PrismML在高通骁龙峰会上推介了为智能眼镜设计的1-bit Bonsai语言模型。该模型拥有20亿参数,针对视觉和语言任务进行了优化,能够在高通Snapdragon AR1 Gen 1平台上本地运行。

科技人工智能

Cactus Needle 3:8-29MB超小模型性能媲美DeepSeek V4 Flash

Cactus团队发布了Needle 3自动化模型,这是一款参数量在25至121百万之间、经2-bit量化后仅8-29MB的超小型语言模型。该模型采用了Monarch Hadamard MLP等创新架构设计,支持工具调用和结构化JSON输出功能。在Mobile Actions基准测试中,20层模型达到86.0分的性能表…

科技人工智能

Desert Ant Labs推出18个本地运行AI模型

欧洲前沿AI实验室Desert Ant Labs宣布推出18个本地运行的小型专用AI模型,可在手机、平板等设备上离线执行任务,无需调用云API。这些模型涵盖音频转录、音质增强和隐私脱敏等多项功能,每月100万活跃设备以下免费使用,不收取token费用。