LeCun连续转发！新作VISReg攻克JEPA世界模型「表征坍塌」核心难题

本文介绍了自监督学习领域的新工作VISReg，其核心目标是解决JEPA世界模型中长期存在的“表征坍塌”问题。传统自监督学习方法为抑制表征坍塌，依赖EMA、教师-学生网络等启发式技巧，导致训练脆弱且可解释性差。已有的VICReg和SIGReg方法虽通过正则项约束表征分布，但存在仅刻画二阶统计量或梯度消失等缺陷。VISReg通过将正则项解耦为“尺度”与“形状”两个独立目标，保留了VICReg的方差项控制尺度，并用基于切片Wasserstein距离的sketching目标替代协方差项控制形状。该方法在不依赖任何启发式技巧的前提下，在15个数据集上综合表现优异，尤其在分布外泛化、数据效率（仅用约1/10数据比肩DINOv2）和低质量数据鲁棒性上展现出显著优势，为JEPA世界模型提供了稳健的解决方案。