星光澄海 | BLOG

一个模型通吃7领域 JEPA-Anything打破领域模型壁垒

2026年10月,PhAI Labs、港中文、复旦、斯坦福、牛津、普林斯顿六家机构联合推出的JEPA-Anything,用一套共享核心框架搞定了7个完全不同的领域,10项动态任务测试结果全比匹配的标准JEPA好。

领域模型的老问题:各玩各的

之前做世界模型,每个领域都得单独磨一套。搞细胞的模型、搞临床轨迹的、搞分子动力学的,从编码到预测全是各玩各的,代码不通用,参数调法也天差地别。标准JEPA虽然号称跨领域,但有个明显的“容量分配问题”:它把目标输出成一个整体嵌入,高方差结构占主导,弱模式的梯度直接乱了套。

OPF:把一个目标拆成正交因子

这次的核心是正交预测因子化(OPF)。简单说就是把原来宽度为d的隐层目标,拆成K个独立的子空间,d等于K乘r,多数实验用K=4。每个因子配专属的预测器,最后用摩尔-彭罗斯伪逆把结果合并成完整隐态。还有三个正则化项托底:正交损失让投影矩阵的列保持正交,活动损失不让因子“死”掉,编码器方差损失防止模型坍缩。光看实验数据:CITRIS介入乒乓球任务里,标准多头部模型的条件数是438.52,正交版只有1.00005,交叉因子重叠几乎为零。

硬测试数据:跨领域全赢

测试结果的数字够硬。单细胞数据里,零-shot PBMC聚类的AvgBIO到了0.7752,Cell-JEPA只有0.7194;诺曼扰动的皮尔逊相关系数从0.787升到0.814。英国生物库1000个临床事件的预测,平均PRAUC是0.718,匹配的标准JEPA是0.711。介入乒乓球的单干预MSE降了34.83%,未见过的组合干预效果升了12.9%,6步自由回退升了8.58%——10项动态任务全比基准好。还有意外的科学发现:因子分析提名IL-18加CD73作为癌症干预,湿实验在共培养、类器官、肿瘤碎片和小鼠里都得到支持;隐层轨道模式还拟合了开普勒定律,斜率是-1.4991,接近理论值-1.5。规划结果有点分化:Walker2d和HalfCheetah的CEM回报提升,但Hopper任务里,标准JEPA效果更好。

留个疑问

JEPA-Anything的核心代码是Apache-2.0许可,研究用的模型checkpoints在Hugging Face公开可拿。对行业来说,跨领域世界模型的门槛好像降了——不用每个领域从零搭一套,复用核心框架,调调领域适配就行。不过有个问题没搞明白:为什么在Hopper这类运动控制任务上,它的规划效果不如标准JEPA?是拆分因子的逻辑不匹配这类任务的运动特性,还是超参数还有优化空间?


素材来源:MarkTechPost · AI情报、AI应用落地、AI政策与监管、开源生态
查看报道原文

发表第一条评论吧

支持 Markdown