Folia
← 返回头版

InstinctFlash:在Jetson Thor上实现实时机器人模型推理加速

General Instinct 推出了 InstinctFlash,这是一个专为机器人模型设计的高性能推理框架,采用 AGPL-3.0 开源许可证发布1。该框架在 NVIDIA Jetson Thor 硬件上实现了 1.2 倍至 7.9 倍的运行时加速,结合扩散调度器优化技术可进一步达到 33.78 倍的加速效果1。

在 Robotwin2.0 任务集的 1,153 个评估案例中,LingBot-VA 模型在 InstinctFlash 上优化至 2 个视觉步骤和 4 个动作步骤后,达到了 90.5% 的成功率1。该框架支持包括 pi0.5 和 NVIDIA Cosmos Policy 在内的 8 个 VLA/world-action 模型系列,可运行在 RTX 4090/5090 和 Jetson Thor 等硬件平台上1。目前三星、西门子等公司已将其用于生产环境1。


评论