Folia
← 返回头版

600次实验揭示JEPA世界模型瓶颈:改进规划策略可将长时程任务成功率提升至85%

一位独立研究者针对Yann LeCun团队发布的基于联合嵌入预测架构(JEPA)的世界模型LeWM进行了600次系统性实验 1。研究发现,在训练数据覆盖的路径上,LeWM的预测能力已接近完美的物理模拟器,其性能瓶颈并非在于预测精度,而在于长时程任务的规划方法 1。数据显示,原始的Vanilla LeWM模型在处理75步的长时程任务时,成功率仅为22% 1。为了验证这一结论,研究者尝试使用完美物理替换原有的预测器,结果发现这仅使成功率提升了约20个百分点(达到77-78%左右),进一步证实了预测误差并非主要限制因素 1。

通过引入无需重新训练的优化规划策略,该研究显著提升了模型在实际任务中的表现。第一种方法是实施分层规划,将长任务拆分为25步的子目标,因为研究发现LeWM的有效规划视界约为25步 1。结合其他优化措施后,这种方法成功将任务完成率从22%提升至85% 1。第二种方法则是构建一个包含46万个嵌入状态的潜在记忆图,并为跨演示跳转添加成本约束,实验显示嵌入距离排名与物理可达性一致的概率高达87% 1。此外,一项关于目标评分的单次更改单独贡献了60个百分点的成功率提升 1。综合这些改进后的规划方法,在不改变模型本身的情况下,将成功率从基准的62%进一步提升至85%,达到了专家级子目标的表现水平 1。


评论