Tech Analysis · Representation Learning & World Models

谢赛宁七小时访谈深读:表征、世界模型与 AMI Labs 的“反向 OpenAI”

这场 6 小时 44 分钟访谈看似从童年、论文、何恺明、李飞飞一路漫游到 Yann LeCun、世界模型和创业,真正贯穿全程的却是同一个方法:不要坐着想一个完美答案,而要通过实验、他人和真实世界不断寻找“梯度”。这既是谢赛宁的研究方法,也是他理解表征、设计组织与创办 AMI Labs 的共同模型。

完整覆盖 #133 全部 15 个章节 · 论文/官方资料交叉核验 · 技术押注与创始人叙事分层

核心判断:他争夺的不是视觉份额,而是智能系统的地基权

把谢赛宁的观点简化成“视觉派反对 LLM 派”是不准确的。他承认语言模型是革命性工具、知识与沟通接口,也认为视觉、多模态和世界模型的发展离不开 LLM。真正的分歧是:未来智能系统内部最重要的状态,应该主要由语言 token 承载,还是由对连续、高维、可干预世界的层次化表征承载?

语言

人类文明压缩过的知识与意图接口,天然与人对齐,适合检索、表达和符号推理。

表征

从感觉信号中学习任务相关的状态,过滤冗余,保留动作、预测和泛化所需结构。

世界模型

在状态和动作条件下预测后果,用于规划、反事实、决策与控制;不是某个单一算法。

谢赛宁的押注是:未来语言仍在,但会从“承包所有认知脏活”退回沟通和解码接口;真正的 foundation 是模块化、层次化、能够预测与规划的表征系统。这是研究路线,不是已被证明的产业结论。

6:44:38 完整内容地图

官方章节内容主线隐藏连接
00:00–00:01开场、AMI Labs、25 人与融资预告。节目从一开始就在搭建“普通研究者成为创始人”的人物弧。
00:01–00:35The Normal One:童年、互联网、交大 ACM 班、侯晓迪、NUS 与视觉。稳定选择函数是问题和人,而非排名、短期回报。
00:35–00:52申请屠卓文、跟去 UCSD、DSN、HED 与论文奖项。同行评审的瞬时结果不等于长期价值。
00:52–00:57NEC、Adobe、FAIR、Google、DeepMind 五次实习。用组织多样性换取比较视野,牺牲单线产出。
00:57–01:05与何恺明合作 ResNeXt,专注与抽象能力。导师教的不是答案,而是如何从普通信号中提纯问题。
01:05–01:12DeepMind 组织、博士论文与表征学习身份。具体任务是枝叶,表征是树根。
01:12–02:43两次拒绝 Ilya、FAIR、MoCo/MAE、研究的非线性与无限游戏。研究过程就是主动实验设计和寻找梯度。
02:43–04:11Research taste、《金刚经》、ConvNeXt、DiT、Cambrian、REPA/RAE。穿过“相”寻找结构:架构、数据、目标最终汇到表征。
04:11–04:29世界模型的定义、MPC、Dyna、state 与不同路线。世界模型是目的,不是视频生成或 JEPA 的同义词。
04:29–04:58下载互联网→下载人类,视频、感官带宽、眼镜和机器人。模型瓶颈从知识语料迁移到连续经验与治理。
04:58–05:45与 LeCun 创办 AMI、反向 OpenAI、全球伙伴与团队设计。技术路线被翻译成数据联盟和组织制度。
05:45–06:07“硅谷被催眠”、LeCun、JEPA 与创业体验。反共识只有配套证伪指标时才不是另一种催眠。
06:07–06:18AGI 伪命题、动物智能、松鼠智能与机器人预训练。能力不是单轴排名,而是生态位中的闭环适应。
06:18–06:44The Normal One、纽约、文化作品、Seedance、维特根斯坦与“42”。人与人的理解是研究、领导和品牌叙事的共同价值。

The Normal One:偶然背后有稳定的决策函数

谢赛宁把自己的路径反复称作“玄学”:不是顶尖竞赛生,交大 ACM 班成绩约十几名;没有直接进入微软亚研院视觉组,主动联系新加坡国立大学;博士申请末期才被屠卓文“捞起”,导师从 UCLA 转去当时声望不如今天的 UCSD,他仍选择跟随。表面无序,底层却相当稳定:优先做自己真正想理解的问题,优先与想合作的人共事,把学校名次、论文数量和短期财务回报降权。

侯晓迪与《交大学生生存手册》提供了早期反优绩主义框架;NUS 实习让他在 AlexNet/ImageNet 时刻真正进入视觉研究。童年旅行、父亲的书房和早期 BBS/博客则被他用来解释开放性与表达欲。

不是“跟随内心”这么简单他的选择有一个可复用条件:兴趣必须转成主动行动——写邮件、换路径、做实验、进入新组织。它不是拒绝评价,而是拒绝只使用单一评价。

DSN 与 HED:表征从一开始就是主线

在屠卓文指导下,Deeply-Supervised Nets 给深层网络的中间层增加监督出口,缓解早期网络训练的梯度问题;HED 把类似思想用于像素级边缘检测,并让不同层级的特征对应不同尺度的边缘。谢赛宁从中获得的不是一个固定架构,而是“网络中间层本身具有结构和信息”的认知。

HED 获 ICCV Marr Prize honorable mention;DSN 当年曾因公式排版遗漏平方项被拒,后在 AISTATS 发表并获得 Test of Time Award。它们支撑了他对学术随机性的长期判断:一次拒稿、一次奖项都不是工作的完整价值函数。

这里也埋下后来 REPA/RAE 的伏笔——对中间表征施加目标、把内部状态与外部强表征对齐,并不是 2025 年突然出现的想法,而是十余年主线重新组合。

五次实习与三类关键合作者

NEC、Adobe、FAIR、Google Research 和 DeepMind 五段实习刻意覆盖不同问题;部分没有论文,却让他比较研究文化和组织。DeepMind 的探索小组—项目执行切换,后来成为他思考 AMI 的一个组织样本。

何恺明:把探索变成可读的梯度

ResNeXt、MoCo、MAE 和 FAIR 的共同经历让谢赛宁总结出一套研究流程:先建立强 baseline;探索期不坐着想妙招,而是阅读、复现、写代码、做控制实验;每次实验前写下预测;正结果、负结果和意外结果都要提供方向;允许在最后阶段 pivot。实验表格不是行政记录,而是最大化信息量的界面。

李飞飞:定义问题比填榜更重要

他把 ImageNet 的深层价值理解为定义了共同问题与评价面,而不只是收集数据;Thinking in Space、Cambrian-S 等合作延续了“什么能力值得测”的 agenda-setting 思路。

Yann LeCun:长期坚持一套可工程化架构

他欣赏 LeCun 不因热点改变公开判断,同时强调 LeCun 愿意基于事实被说服。JEPA 对他不再是一个自监督算法,而是包含世界理解、预测、记忆、规划与动作的认知架构。

研究方法:好 idea 不是想出来的,是撞出来的

访谈中最可操作的部分,是他对研究周期的描述:先有 general direction,给 1–2 个月真实探索;用强 baseline 和控制实验寻找信号;逐步形成属于自己的 idea;再用 2–3 个月扩展,最后写作。若论文最终想法与起点完全相同,往往意味着问题太线性、没有获得意外信息。

方向与输入
强基线
预测—实验—意外
Pivot
可传播的理解

这不是鼓励盲目试错。恰恰相反,每个实验都应有预测、对照和解释;最坏状态不是结果下降,而是结果不变、没有信息。一个掉 10 点的实验可能比涨 0.2 点更有价值,因为它暴露了强方向。

整期的隐藏统一线实验为研究提供梯度,表征为环境压缩决策梯度,真实伙伴为创业提供产品梯度。“寻找梯度”同时连接了他的科研方法、世界模型和反向 OpenAI 商业构想。

无限游戏与“max 而非 average”

谢赛宁把研究者与棋手/运动员区分:有限游戏的一步错误可能输掉比赛;研究者更像发明家,许多普通或失败工作不会毁掉职业,少数代表作却会非线性地改变领域。他把职业优化目标称为工作的 max,而不是平均值。

这能鼓励大问题和长期探索,却也有明显盲区:复现、数据治理、工具维护、负结果和基础设施通常很难成为“max”,但正是它们让突破可验证、可积累。作为个人研究策略,“max”有效;作为机构唯一奖励函数,会造成公共品短缺和明星化。

他批评工业实验室设定 agenda 后,学术界用少量资源追随同一 benchmark,把本应定义问题的无限游戏带入产品竞争的有限游戏。这一批评也解释了他为何在 Google 兼职时刻意寻找“不与工业界重复”的学术空间。

Research Taste:《金刚经》、写作与可证伪性

何恺明送他的《金刚经》被用来解释“穿过相看实质”:不要沉迷论文接收、名望、复杂公式和热点标签,要问工作背后的结构是什么。谢赛宁把 taste 扩展到写作、图表、页面、视频和命名,因为论文是帮助别人进入推理过程的沟通界面。

他又把论文类比电影:好的故事不是从 A 无冲突走到 B,而是在关键选择中改变理解;最个人化的经历可以产生最独特的研究视角。这个观点解释了 ConvNeXt、DiT 和 Cambrian 为什么都强调“重新问什么重要”。

但 taste 也可能变成权威不可见的偏好。尤其进入创业公司后,少数创始人的审美掌握资源,必须配套预测记录、失败条件、退出标准和年轻研究者的异议渠道,才能避免“穿过表象”成为免于反证的口号。

从 ResNeXt 到 RAE:论文不是清单,而是一张图

工作访谈中的作用证据边界
ResNeXt用 cardinality/grouped transformations 扩展架构;第一次近距离学习何恺明的方法。与 MoE 是启发性类比,不等于动态路由和训练机制相同。
MoCo / MAE两种自监督路线:对比学习与 masked reconstruction;共同追求可扩展视觉表征。访谈也承认它们没有产生 LLM 式单调 scaling 终局。
ConvNeXt通过系统消融质疑 ViT 成功是否主要来自 self-attention,强调宏观/微观设计。不能由此推出 attention 不重要,只能说明多个设计共同贡献。
DiT / SiT把 Transformer 与可扩展生成目标结合;DiT 从扩散表征研究 pivot 而来。Sora 使用 DiT 类架构支持影响力,不证明 DiT 独自造成视频生成突破。
Cambrian / Cambrian-Svision-centric 多模态与空间超感知,试图定义从 show-and-tell 到预测世界模型的能力阶梯。能力阶梯是 research agenda,尚非通用成熟度标准。
REPA / RAE让扩散内部状态对齐强自监督表征,再让强表征直接成为生成 foundation。实验支持训练/生成改进,不足以证明“表征是唯一重要的事情”。

语言是强监督,视觉是连续世界:哪里成立,哪里过度

谢赛宁提出一个有启发性的视角:语言不是“无标签原始数据”,而是人类几千年选择、压缩和上传的知识,因而 LLM 预训练带有强监督性质。它天然保存人类关心的事实与表达,却丢掉杯子如何破碎、身体如何平衡、物体如何接触等大量连续动力学。

他把 vision 定义为一种 perspective:处理连续、高维、有噪信号;形成层次化抽象;并行处理多个对象与变化;把画出来的狗、卡通狗和真实狗共享到相近概念。语言进入多模态扩大任务接口,也可能让模型依赖语言先验,绕过真实视觉 grounding。

“语言是鸦片/拐杖”的修辞过重。更精确的问题是优化捷径:若 benchmark 可凭语言相关性得分,训练就缺少学习高带宽感知的激励。解决方式是设计必须追踪状态、空间、因果和反事实的任务,而不是简单减少语言。

对称修正语言经过人类选择,视觉数据也经过相机、剪辑、平台推荐和拍摄意图;两者都不是无中介现实。视觉路线同样要面对数据偏差、隐私和任务定义。

世界模型的严格内核:状态、动作、后果

谢赛宁给出的最小定义是:给定环境状态 S_t 和动作/干预 a_t,学习转移 F(S_t, a_t) → S_{t+1},再用预测支持规划和决策。他追溯 Kenneth Craik 的 internal model、Model Predictive Control 与 Sutton 的 Dyna,说明“用内部模型预演动作后果”远早于今天的 world model 热词。

关键在 state:它不是逐像素复制世界,而是对当前任务足够的最小描述。飞机设计不模拟每个分子,而使用流体层级的状态;智能系统也需要逐层过滤感官冗余,保留能影响决策的信息。表征学习因此与世界模型直接连接。

世界模型是目的,不是算法标签

视频生成公司更接近 world simulator,强调长时一致、可控渲染;显式 3D 路线提供可编辑空间资产;AMI 想做 predictive brain。三者可以共享目标,但不能因为都使用“世界模型”就认为技术和证据等价。

状态充分性是核心可证伪点

压缩表征必须在新任务、长时规划和反事实干预下仍保留足够信息。漂亮视频、线性探针或少量下游微调都不足以证明通用 state;真正强的测试是任务变化后,模型能否不重建全部细节仍做出正确预测和行动。

预测不自动等于安全

谢赛宁认为 LLM 主要靠后训练学习“什么能说、什么不能说”,而世界模型可以在推理时预测动作后果,因而更可控。例如机器人拿刀时,系统能预演转身会伤人,从而避免动作。

这一步推论缺少四个必要条件:世界模型预测必须准确;必须知道哪些后果不可接受;必须覆盖长尾与不确定性;规划器不能利用模型漏洞。能预测“会发生什么”不等于知道“应该做什么”,更不等于在分布外正确预测。世界模型可能提高安全工具箱,却不是安全的自动证明。

模型风险

错误动力学、遗漏参与者、长时误差累积和过度自信。

价值风险

目标函数可能接受对人不利但任务成功的后果。

验证风险

模拟与现实不一致,规划器还可能主动寻找模型盲点。

从下载互联网到下载人类:数据问题也是治理问题

语言模型受益于互联网把人类知识上传为文本;世界模型需要连续经验。谢赛宁设想先用 YouTube 等互联网视频,再走向 always-on 可穿戴设备、机器人和工业传感器,把高带宽观察压缩成低带宽决策。他称这是“download human”。

这个表述直指技术瓶颈,也暴露治理风险。第一视角视频会拍到旁观者、家庭、工作场所、医疗和儿童;平台服务条款与版权限制使抓取并非中性;工业传感器涉及商业机密和安全。隐私、同意、所有权与收益分配不是研究完成后的合规附件,而会决定哪些世界能被模型看到。

他认为潜在出口是 always-on AI 眼镜与机器人:前者把连续生活状态变成主动建议,后者检验模型能否在真实世界持续行动。两者都要求长期记忆、能耗、隐私和错误恢复,而不仅是更长 token 序列。

AMI Labs:“反向 OpenAI”到底反在哪里

访谈将 OpenAI 式路线概括为:从互联网下载数据,训练通用 Transformer,再把智能推向 To C/To B 市场。所谓“反向 OpenAI”,则是从世界各地拥有问题和数据的农场、医院、制造、航空与机器人伙伴出发,共建垂直世界模型,先创造价值和新数据,再反哺通用 foundation。

真实问题
伙伴数据
垂直模型与价值
新反馈
通用世界模型

这同时包含三种主张:技术上,多模态工业信号可共享一个预训练底座;商业上,伙伴愿意贡献数据并采用模型;治理上,多方能形成类似 Mastercard 联盟的利益结构。三者不会自动互相成立。数据异构、权限、分布漂移、收益分配和责任归属,可能比单一平台训练更难。

正式融资与访谈录制时口径

节目录制时,谢赛宁用“目标约十亿美元”“约 25 人”“约 30 亿欧元投前”等未完成口径。2026 年 3 月正式宣布后,公开报道确认种子轮为 8.9 亿欧元/10.3 亿美元,估值口径约 30 亿欧元;正式团队名单确认谢赛宁为 CSO、Yann LeCun 任董事长,并设巴黎、纽约、蒙特利尔、新加坡布局。公开资料还显示正式宣布时约十余人、计划扩至 30–50 人,与录制时的预期团队数并非同一统计时点。

研究自由的百分比不重要,晋级机制才重要

谢赛宁把 AMI 定位在开放研究实验室与封闭 neo-lab 之间:约 60–70% 目标导向执行,20–30% 自由前沿研究;偏好使命驱动、尚未成为 superstar 的年轻研究者,希望保留署名和成长通道。他把自己和 LeCun 描述为团队“电池”,为他人提供能量。

这套价值观值得肯定,但真正检验不在口号,而在制度:

“普通人”是一种反英雄领导叙事,也是一种强创始人品牌。只有决策权、署名和资源真的下沉,它才不只是更柔和的英雄叙事。

AGI、松鼠智能与人类中心主义

谢赛宁与 LeCun 认为“general intelligence”可能是伪命题:任何生物都受感觉器官、身体、能耗与生态位限制。动物会使用工具、形成社会关系、记忆藏食者和推理他者视角,人类语言不是智能唯一形式。他引用 Rich Sutton 的观点:造出能在真实世界生存、有目标、内在奖励和社群行为的“松鼠智能”,可能比写代码或拿竞赛金牌更触及智能本质。

这揭示 Moravec 悖论式的不均衡:符号任务和闭环适应是不同能力结构,不应放在一条难度轴上。却也不能从“不存在绝对通用”直接推出 AGI 没有工程意义;若 AGI 只是广泛任务迁移和自主学习的目标,它仍可操作。争议更多是定义,而非一个可由数学一次消解的事实问题。

访谈中的四组张力

主张 A主张 B如何同时理解
反对 fame 与个人中心统一视觉风格、视频、超长人物访谈与创始人叙事区分注意力是否服务知识传播和贡献归因,而不是假装没有传播。
研究是 bottom-up 探索AMI 需要大额融资、全球组织和明确 mission需要探索晋级机制,把不确定研究转成阶段性资源决策。
语言是捷径和阶段性产物世界模型仍需要 LLM 沟通、条件和知识争议是地基与接口的层级关系,不是语言是否消失。
世界模型更安全可控训练目标、数据和输出形式尚在研究安全是待验证的潜在收益,不能作为路线已成立的前提。

我的进一步 Insight

1. “找梯度”是整期真正的世界模型

研究者通过实验预测误差更新方向;智能体通过环境预测误差更新表征;创业公司通过客户反馈更新产品。三层都反对从静态计划直达终点。

2. State 的充分性比模型大小更关键

世界模型真正的 scaling 不是吞多少视频,而是压缩后还能支持多少新任务、反事实和长时规划。若每换任务都要重训,所谓通用表征尚未成立。

3. 反共识也可能成为新共识剧场

“硅谷被 LLM 催眠”很有传播力,但站在主流反面不自动正确。AMI 应提前公开哪些实验会让自己放弃或修改路线,才能证明其科学性来自证据而非身份。

4. 反向 OpenAI 的关键资产是契约

模型和数据之外,多伙伴联盟最稀缺的是使用权、反馈权、收益权和退出权的可扩展契约。没有治理层,分布式世界只会变成互不兼容的数据孤岛。

5. `max` 研究文化需要公共品补丁

突破导向应配套稳定基础设施、负结果归档、复现预算和贡献署名;否则所有人追求代表作,没人维护让代表作可信的脚手架。

6. 世界模型路线的第一性风险不是模型失败,而是世界不可被合法下载

连续生活和工业数据越接近真实价值,越涉及隐私、权力和商业秘密。治理可行性将直接塑造技术可达边界。

未来两年怎样判断这场押注

证据边界与资料索引

本篇把个人经历、FAIR/Google/OpenAI 内部互动、Ilya 电话、薪酬、同事选择和公司文化视为谢赛宁的口述证言;论文与官方页面可核技术/履历,不能核实所有私人细节。AMI 融资已在录制后正式宣布,因此正文按正式信息校准录制时预测。关于语言、世界模型、安全与 scaling 的强判断仍是可证伪研究押注。

  1. Zhang Xiaojun Podcast #133:谢赛宁七小时访谈——全部 15 章原始主张。
  2. 谢赛宁个人研究主页——履历、奖项与完整论文项目索引。
  3. VISIONx Cambrian 官方项目——Cambrian-1、Thinking in Space、Cambrian-S 的模型、数据与评测。
  4. Meta I-JEPA 官方说明V-JEPA 官方说明——在抽象表征中预测与视频路线。
  5. Meta:LeCun 的 autonomous intelligence 架构概述——模块化认知架构、JEPA、规划与控制。
  6. A Path Towards Autonomous Machine Intelligence——LeCun 2022 立场论文原文。
  7. Scalable Diffusion Models with Transformers(DiT)A ConvNet for the 2020s(ConvNeXt)——访谈关键论文。
  8. AMI Labs 正式融资与团队报道新加坡 EDB 机构报道——融资、估值、地点与公开路线。
最终判断谢赛宁的研究史确实显示表征主线的连续性,AMI 也获得了足以验证大赌注的资源;但“连续性”不等于“正确性”。未来最重要的证据不是再讲一次为什么 LLM 不够,而是展示一种 state 表征在预测、规划、任务迁移和安全上同时超过强基线,并说明它如何从合法、可治理的真实世界数据中学习。

返回顶部 ↑