世界模型正迈向持续学习的新阶段!纽约大学联合 Yann LeCun 创办的初创公司 AMI 推出了 #JEPA 系列的最新突破性成果——AdaJEPA。与以往在预训练结束后即被冻结参数的世界模型不同,AdaJEPA 能够在与环境进行交互的过程中,基于 测试时自适应 (Test-Time Adaptation, TTA),实时调整其编码器和预测器参数,从而真正实现了自主的 持续学习。
具体而言,AdaJEPA 构建了一个“计划-执行-观测-更新-再规划”的闭环机制。在每次交互中,它仅执行由 模型预测控制 (MPC) 规划出的第一段动作,接着将实际观测到的下一帧状态作为 自监督信号 来更新世界模型。如此一来,在下一轮规划时,系统使用的便不再是最初部署时的冻结模型,而是已经被当前环境“实时校准”过的模型。这一思路与强化学习中的经典 Dyna 架构 异曲同工,即模型在真实的交互反馈中不断修正自身对物理世界的理解。
此前,基于 JEPA 路线的隐空间世界模型通常假定模型在部署后保持冻结。其工作流程为:模型首先在离线轨迹上学习将高维图像压缩到 隐空间 (latent space) 中,并在此空间内预测未来状态。在测试阶段,MPC 调用该冻结的模型向前滚动“想象”未来并优化动作序列。然而,一旦面对 测试时分布偏移 (Test-time Distribution Shift),在隐空间中看似完美的规划在实际执行时就会失准。由于 MPC 极其依赖短时域滚动规划,单步误差在多步累积后会被严重放大。
为了攻克这一难题,AdaJEPA 将传统 MPC 的循环机制重构为以下四个步骤:第一,规划:将当前观测编码为隐状态,并通过 MPC 进行向前预测,计算出最优动作序列。第二,执行:只执行序列中的第一段动作,并接收真实环境返回的下一帧观测。第三,更新:将该次真实状态转移存入在线缓冲区,通过对比预测隐状态与真实下一帧的隐编码,反向传播计算梯度并更新模型。第四,再规划:更新后的模型立即投入下一轮 MPC。实验中默认仅更新视觉编码器和预测器的最后几层,且每次重规划只进行 1 步梯度下降,从而将计算开销降至最低。
在实现层面,AdaJEPA 的底层架构依然基于 联合嵌入预测架构 (JEPA)。与传统的像素级预测世界模型不同,JEPA 专注于在紧凑的隐空间内进行未来状态预测。为了防止在线更新导致原本的表征空间崩溃,研究团队实施了双重保障:一是对目标表征采用 停止梯度 (stop-gradient) 机制;二是限制更新参数的范围,每次仅进行轻量级的自适应调整,这就像是在每前进一步时,用环境反馈对模型进行一次温和的校准。
研究团队在 PushObj 和 PointMaze 两个主流基准上对 AdaJEPA 进行了严苛的测试。实验结果表明,在未见过的物体形状上,AdaJEPA 将规划成功率提升了近一倍;在未见过的迷宫布局中,GD 规划成功率从 53.3% 飞升至 78.7%,CEM 成功率也从 49.3% 提高到 70.7%。令人惊叹的是,这种在线自适应仅带来了 0.01 到 0.03 秒 的极低额外延迟,证明了其在实际部署中的高可行性。
AdaJEPA 的提出标志着 AI Agent 从“静态离线规划”向“动态具身自适应”迈出关键一步。以往世界模型扮演着一成不变的“模拟器”,面对新环境极易累积误差。AdaJEPA 通过在隐空间引入测试时自适应(TTA),巧妙地在低延迟下实现了“在线微调”。横向对比大模型中的 RAG 或 ICL,这种自监督的参数在线校准更深层地修正了物理表征。对未来的 Agent 生态而言,这意味着智能体无需过度依赖海量离线预训练,即可通过边缘端轻量级持续自校准实现强泛化,为具身智能在动态工业场景的落地扫清了障碍。