66岁的“AI教父”Yann LeCun,最近又干了件大事。

10月29日,他联手布朗大学助理教授 Randall Balestriero 甩出一篇37页的新论文,直接把矛头对准了现在AI圈奉为圭臬的 Scaling Law(规模定律)。

难道疯狂砸钱堆参数、扩大数据集,真的是通往AGI的唯一道路?LeCun用一组夸张的实验数据告诉你:未必。

夸张的越级击杀:1亿参数硬刚720亿

在论文的核心实验里,研究人员训练了一个仅有 1.09亿(109M)参数 的文本 JEPA 模型。

别看它小,在一项跨模态表征对齐测试中,这个“小不点”拿下了 0.184 的高分。作为对比,参数量高达720亿的 Qwen2.5-72B 得分仅为0.154,700亿参数的 Llama-3-70B 也只有0.151。

参数量相差了约 660倍,结果小模型反而赢了?

更离谱的是训练效率。采用新方法的模型只需要 2160万个 训练样本,就能达到传统下一Token预测模型使用 9亿个 样本才能获得的表征对齐水平。

  • 按样本数量算:效率提升约 42倍
  • 按实际读取的文本Token算:效率也提升了约 14倍

【编辑观察】这数据一出来,最受伤的可能是各大厂的算力账单。过去大家默认“大力出奇迹”,但LeCun这波相当于在说:方向不对,烧钱白费。

AI的“柏拉图表征”:让文字和图片看懂同一个世界

为啥小模型能逆袭?这得从一个很有哲学味的假说讲起。

2024年,MIT团队在 ICML 上提出了 《柏拉图表征假说》(PRH)。他们观察到,随着模型规模增大,视觉模型和语言模型内部的表征结构似乎会越来越像。

打个比方:一张猫趴在沙发上的照片,和一句“猫趴在沙发上”的文字,底层载体完全不同,但指向的现实场景是同一个。如果 AI 能透过现象看本质,它们内部学到的世界结构就可能趋同。

但2024年的研究只看到了现象,没证明原理,也没给出高效的配方。LeCun这次要做的,就是把假说变成定理。他们把关键指向了训练时给模型看的数据——正样本对。

论文里提出了两个关键概念:

  • Good Views(好视角):对同一个场景的不同有效观察。比如同一场景的两张照片,或者两段描述同一场景的文字。
  • Bad Views(坏视角):对单一输入的“折腾”。比如把一句话随机遮挡,或者把文本拆成前缀和后续(也就是LLM常用的下一Token预测)。

Good Views 能逼着模型提取不同观察背后共享的现实信息;而 Bad Views 会让模型浪费大量算力去死抠单一模态里的边角料(比如特定的用词习惯)。

论文证明:只要用符合条件的 Good Views 去训练不同模态的 JEPA 模型,它们学到的表征空间就只会相差一个简单的数学“旋转”变换,轻松实现对齐。

注意!这不是说小模型“智商”更高

看到“1亿干翻720亿”的标题,先别急着喊“LLM已死”。

论文里的“超过”有着极其严格的边界。这里比的不是数学推理、写代码或者知识问答,而是 跨模态表征对齐 的特定指标(分数越高,说明文字模型对世界的理解结构越接近视觉模型)。

换句话说,JEPA在“理解世界的抽象结构”这科拿了高分,但不代表它全科都干翻了大模型。LeCun自己也承认LLM积累了海量的陈述性知识,实用性毋庸置疑。

不过,这种高效的对齐能力并非纸上谈兵。研究团队只靠一个线性变换(旋转),就把独立训练的视觉和文本编码器连成了一个图像描述系统。

  • 在 COCO 数据集上,图像描述取得了 0.838 的 CIDEr 分数
  • 在 ImageNet-100 上,无需配对图文数据,Top-5 分类准确率达到 64%

66岁离开Meta创业,他为啥死磕JEPA?

这篇论文,其实也是 LeCun 个人技术理想的延续。

作为卷积神经网络之父、2018年图灵奖得主,LeCun近些年堪称大模型热潮中的“头号唱反调者”。他始终认为:只靠预测下一个Token,AI永远不可能真正理解物理世界。

2025年11月,他宣布离开工作了12年的 Meta,创办 AMI Labs,主攻能理解世界、有持续记忆和规划能力的世界模型。2026年3月,公司拿下了约 10亿美元融资。

而另一位作者 Randall Balestriero 也来头不小。这位布朗大学的助理教授曾在 Meta FAIR 与 LeCun 共事,研究方向正好横跨自监督学习与深度网络理论。

业界热议:用“理解”代替“死记硬背”?

论文迅速冲上 Hugging Face 热门,Balestriero 亲自下场评论区划重点。

LeCun也在X上发声。他认为大模型之所以能答题,全靠疯狂囤积陈述性知识,所以才需要那么多参数和内存。而 JEPA 世界模型是用“理解”去代替“囤积”,自然能省下大量内存和数据。

评论区里,网友 Sage Williams 持观望态度:“如果你的观点是对的,那么你的模型最终应该会胜出。我们拭目以待。”

也有人备受鼓舞,Peter Ebasone 认为这对缺算力的小实验室和个人开发者是重大利好,甚至可能在基因组学领域大放异彩。还有网友 Gordon Lawton 好奇:既然文字和图片能对齐,那视频里的画面和声音是不是也可以?

【编辑观察】 Scaling Law 没有错,但它可能不是唯一的答案。在所有人都在竞速“更大、更贵”的时候,LeCun选择从底层学习机制出发寻找捷径。无论 JEPA 最终能否颠覆现有格局,这种试图让 AI 从“背题库”进化到“懂世界”的探索,都值得我们保持关注。