自监督学习

科技人工智能

LeCun团队提出VISReg方法,破解自监督学习表征坍塌难题

LeCun团队推出的自监督学习新方法VISReg通过将表征正则项解耦为尺度与形状两个独立目标,成功攻克了JEPA世界模型的表征坍塌核心问题。该方法无需采用任何启发式训练技巧,在15个数据集上的综合表现超越MoCoV3、DINO、iBOT、I-JEPA、MAE、data2vec等主流自监督学习方法。