语言
人类文明压缩过的知识与意图接口,天然与人对齐,适合检索、表达和符号推理。
这场 6 小时 44 分钟访谈看似从童年、论文、何恺明、李飞飞一路漫游到 Yann LeCun、世界模型和创业,真正贯穿全程的却是同一个方法:不要坐着想一个完美答案,而要通过实验、他人和真实世界不断寻找“梯度”。这既是谢赛宁的研究方法,也是他理解表征、设计组织与创办 AMI Labs 的共同模型。
把谢赛宁的观点简化成“视觉派反对 LLM 派”是不准确的。他承认语言模型是革命性工具、知识与沟通接口,也认为视觉、多模态和世界模型的发展离不开 LLM。真正的分歧是:未来智能系统内部最重要的状态,应该主要由语言 token 承载,还是由对连续、高维、可干预世界的层次化表征承载?
人类文明压缩过的知识与意图接口,天然与人对齐,适合检索、表达和符号推理。
从感觉信号中学习任务相关的状态,过滤冗余,保留动作、预测和泛化所需结构。
在状态和动作条件下预测后果,用于规划、反事实、决策与控制;不是某个单一算法。
谢赛宁的押注是:未来语言仍在,但会从“承包所有认知脏活”退回沟通和解码接口;真正的 foundation 是模块化、层次化、能够预测与规划的表征系统。这是研究路线,不是已被证明的产业结论。
| 官方章节 | 内容主线 | 隐藏连接 |
|---|---|---|
| 00:00–00:01 | 开场、AMI Labs、25 人与融资预告。 | 节目从一开始就在搭建“普通研究者成为创始人”的人物弧。 |
| 00:01–00:35 | The Normal One:童年、互联网、交大 ACM 班、侯晓迪、NUS 与视觉。 | 稳定选择函数是问题和人,而非排名、短期回报。 |
| 00:35–00:52 | 申请屠卓文、跟去 UCSD、DSN、HED 与论文奖项。 | 同行评审的瞬时结果不等于长期价值。 |
| 00:52–00:57 | NEC、Adobe、FAIR、Google、DeepMind 五次实习。 | 用组织多样性换取比较视野,牺牲单线产出。 |
| 00:57–01:05 | 与何恺明合作 ResNeXt,专注与抽象能力。 | 导师教的不是答案,而是如何从普通信号中提纯问题。 |
| 01:05–01:12 | DeepMind 组织、博士论文与表征学习身份。 | 具体任务是枝叶,表征是树根。 |
| 01:12–02:43 | 两次拒绝 Ilya、FAIR、MoCo/MAE、研究的非线性与无限游戏。 | 研究过程就是主动实验设计和寻找梯度。 |
| 02:43–04:11 | Research taste、《金刚经》、ConvNeXt、DiT、Cambrian、REPA/RAE。 | 穿过“相”寻找结构:架构、数据、目标最终汇到表征。 |
| 04:11–04:29 | 世界模型的定义、MPC、Dyna、state 与不同路线。 | 世界模型是目的,不是视频生成或 JEPA 的同义词。 |
| 04:29–04:58 | 下载互联网→下载人类,视频、感官带宽、眼镜和机器人。 | 模型瓶颈从知识语料迁移到连续经验与治理。 |
| 04:58–05:45 | 与 LeCun 创办 AMI、反向 OpenAI、全球伙伴与团队设计。 | 技术路线被翻译成数据联盟和组织制度。 |
| 05:45–06:07 | “硅谷被催眠”、LeCun、JEPA 与创业体验。 | 反共识只有配套证伪指标时才不是另一种催眠。 |
| 06:07–06:18 | AGI 伪命题、动物智能、松鼠智能与机器人预训练。 | 能力不是单轴排名,而是生态位中的闭环适应。 |
| 06:18–06:44 | The Normal One、纽约、文化作品、Seedance、维特根斯坦与“42”。 | 人与人的理解是研究、领导和品牌叙事的共同价值。 |
谢赛宁把自己的路径反复称作“玄学”:不是顶尖竞赛生,交大 ACM 班成绩约十几名;没有直接进入微软亚研院视觉组,主动联系新加坡国立大学;博士申请末期才被屠卓文“捞起”,导师从 UCLA 转去当时声望不如今天的 UCSD,他仍选择跟随。表面无序,底层却相当稳定:优先做自己真正想理解的问题,优先与想合作的人共事,把学校名次、论文数量和短期财务回报降权。
侯晓迪与《交大学生生存手册》提供了早期反优绩主义框架;NUS 实习让他在 AlexNet/ImageNet 时刻真正进入视觉研究。童年旅行、父亲的书房和早期 BBS/博客则被他用来解释开放性与表达欲。
在屠卓文指导下,Deeply-Supervised Nets 给深层网络的中间层增加监督出口,缓解早期网络训练的梯度问题;HED 把类似思想用于像素级边缘检测,并让不同层级的特征对应不同尺度的边缘。谢赛宁从中获得的不是一个固定架构,而是“网络中间层本身具有结构和信息”的认知。
HED 获 ICCV Marr Prize honorable mention;DSN 当年曾因公式排版遗漏平方项被拒,后在 AISTATS 发表并获得 Test of Time Award。它们支撑了他对学术随机性的长期判断:一次拒稿、一次奖项都不是工作的完整价值函数。
这里也埋下后来 REPA/RAE 的伏笔——对中间表征施加目标、把内部状态与外部强表征对齐,并不是 2025 年突然出现的想法,而是十余年主线重新组合。
NEC、Adobe、FAIR、Google Research 和 DeepMind 五段实习刻意覆盖不同问题;部分没有论文,却让他比较研究文化和组织。DeepMind 的探索小组—项目执行切换,后来成为他思考 AMI 的一个组织样本。
ResNeXt、MoCo、MAE 和 FAIR 的共同经历让谢赛宁总结出一套研究流程:先建立强 baseline;探索期不坐着想妙招,而是阅读、复现、写代码、做控制实验;每次实验前写下预测;正结果、负结果和意外结果都要提供方向;允许在最后阶段 pivot。实验表格不是行政记录,而是最大化信息量的界面。
他把 ImageNet 的深层价值理解为定义了共同问题与评价面,而不只是收集数据;Thinking in Space、Cambrian-S 等合作延续了“什么能力值得测”的 agenda-setting 思路。
他欣赏 LeCun 不因热点改变公开判断,同时强调 LeCun 愿意基于事实被说服。JEPA 对他不再是一个自监督算法,而是包含世界理解、预测、记忆、规划与动作的认知架构。
访谈中最可操作的部分,是他对研究周期的描述:先有 general direction,给 1–2 个月真实探索;用强 baseline 和控制实验寻找信号;逐步形成属于自己的 idea;再用 2–3 个月扩展,最后写作。若论文最终想法与起点完全相同,往往意味着问题太线性、没有获得意外信息。
这不是鼓励盲目试错。恰恰相反,每个实验都应有预测、对照和解释;最坏状态不是结果下降,而是结果不变、没有信息。一个掉 10 点的实验可能比涨 0.2 点更有价值,因为它暴露了强方向。
谢赛宁把研究者与棋手/运动员区分:有限游戏的一步错误可能输掉比赛;研究者更像发明家,许多普通或失败工作不会毁掉职业,少数代表作却会非线性地改变领域。他把职业优化目标称为工作的 max,而不是平均值。
这能鼓励大问题和长期探索,却也有明显盲区:复现、数据治理、工具维护、负结果和基础设施通常很难成为“max”,但正是它们让突破可验证、可积累。作为个人研究策略,“max”有效;作为机构唯一奖励函数,会造成公共品短缺和明星化。
他批评工业实验室设定 agenda 后,学术界用少量资源追随同一 benchmark,把本应定义问题的无限游戏带入产品竞争的有限游戏。这一批评也解释了他为何在 Google 兼职时刻意寻找“不与工业界重复”的学术空间。
何恺明送他的《金刚经》被用来解释“穿过相看实质”:不要沉迷论文接收、名望、复杂公式和热点标签,要问工作背后的结构是什么。谢赛宁把 taste 扩展到写作、图表、页面、视频和命名,因为论文是帮助别人进入推理过程的沟通界面。
他又把论文类比电影:好的故事不是从 A 无冲突走到 B,而是在关键选择中改变理解;最个人化的经历可以产生最独特的研究视角。这个观点解释了 ConvNeXt、DiT 和 Cambrian 为什么都强调“重新问什么重要”。
但 taste 也可能变成权威不可见的偏好。尤其进入创业公司后,少数创始人的审美掌握资源,必须配套预测记录、失败条件、退出标准和年轻研究者的异议渠道,才能避免“穿过表象”成为免于反证的口号。
| 工作 | 访谈中的作用 | 证据边界 |
|---|---|---|
| ResNeXt | 用 cardinality/grouped transformations 扩展架构;第一次近距离学习何恺明的方法。 | 与 MoE 是启发性类比,不等于动态路由和训练机制相同。 |
| MoCo / MAE | 两种自监督路线:对比学习与 masked reconstruction;共同追求可扩展视觉表征。 | 访谈也承认它们没有产生 LLM 式单调 scaling 终局。 |
| ConvNeXt | 通过系统消融质疑 ViT 成功是否主要来自 self-attention,强调宏观/微观设计。 | 不能由此推出 attention 不重要,只能说明多个设计共同贡献。 |
| DiT / SiT | 把 Transformer 与可扩展生成目标结合;DiT 从扩散表征研究 pivot 而来。 | Sora 使用 DiT 类架构支持影响力,不证明 DiT 独自造成视频生成突破。 |
| Cambrian / Cambrian-S | vision-centric 多模态与空间超感知,试图定义从 show-and-tell 到预测世界模型的能力阶梯。 | 能力阶梯是 research agenda,尚非通用成熟度标准。 |
| REPA / RAE | 让扩散内部状态对齐强自监督表征,再让强表征直接成为生成 foundation。 | 实验支持训练/生成改进,不足以证明“表征是唯一重要的事情”。 |
谢赛宁提出一个有启发性的视角:语言不是“无标签原始数据”,而是人类几千年选择、压缩和上传的知识,因而 LLM 预训练带有强监督性质。它天然保存人类关心的事实与表达,却丢掉杯子如何破碎、身体如何平衡、物体如何接触等大量连续动力学。
他把 vision 定义为一种 perspective:处理连续、高维、有噪信号;形成层次化抽象;并行处理多个对象与变化;把画出来的狗、卡通狗和真实狗共享到相近概念。语言进入多模态扩大任务接口,也可能让模型依赖语言先验,绕过真实视觉 grounding。
“语言是鸦片/拐杖”的修辞过重。更精确的问题是优化捷径:若 benchmark 可凭语言相关性得分,训练就缺少学习高带宽感知的激励。解决方式是设计必须追踪状态、空间、因果和反事实的任务,而不是简单减少语言。
谢赛宁给出的最小定义是:给定环境状态 S_t 和动作/干预 a_t,学习转移 F(S_t, a_t) → S_{t+1},再用预测支持规划和决策。他追溯 Kenneth Craik 的 internal model、Model Predictive Control 与 Sutton 的 Dyna,说明“用内部模型预演动作后果”远早于今天的 world model 热词。
关键在 state:它不是逐像素复制世界,而是对当前任务足够的最小描述。飞机设计不模拟每个分子,而使用流体层级的状态;智能系统也需要逐层过滤感官冗余,保留能影响决策的信息。表征学习因此与世界模型直接连接。
视频生成公司更接近 world simulator,强调长时一致、可控渲染;显式 3D 路线提供可编辑空间资产;AMI 想做 predictive brain。三者可以共享目标,但不能因为都使用“世界模型”就认为技术和证据等价。
压缩表征必须在新任务、长时规划和反事实干预下仍保留足够信息。漂亮视频、线性探针或少量下游微调都不足以证明通用 state;真正强的测试是任务变化后,模型能否不重建全部细节仍做出正确预测和行动。
谢赛宁认为 LLM 主要靠后训练学习“什么能说、什么不能说”,而世界模型可以在推理时预测动作后果,因而更可控。例如机器人拿刀时,系统能预演转身会伤人,从而避免动作。
这一步推论缺少四个必要条件:世界模型预测必须准确;必须知道哪些后果不可接受;必须覆盖长尾与不确定性;规划器不能利用模型漏洞。能预测“会发生什么”不等于知道“应该做什么”,更不等于在分布外正确预测。世界模型可能提高安全工具箱,却不是安全的自动证明。
错误动力学、遗漏参与者、长时误差累积和过度自信。
目标函数可能接受对人不利但任务成功的后果。
模拟与现实不一致,规划器还可能主动寻找模型盲点。
语言模型受益于互联网把人类知识上传为文本;世界模型需要连续经验。谢赛宁设想先用 YouTube 等互联网视频,再走向 always-on 可穿戴设备、机器人和工业传感器,把高带宽观察压缩成低带宽决策。他称这是“download human”。
这个表述直指技术瓶颈,也暴露治理风险。第一视角视频会拍到旁观者、家庭、工作场所、医疗和儿童;平台服务条款与版权限制使抓取并非中性;工业传感器涉及商业机密和安全。隐私、同意、所有权与收益分配不是研究完成后的合规附件,而会决定哪些世界能被模型看到。
他认为潜在出口是 always-on AI 眼镜与机器人:前者把连续生活状态变成主动建议,后者检验模型能否在真实世界持续行动。两者都要求长期记忆、能耗、隐私和错误恢复,而不仅是更长 token 序列。
访谈将 OpenAI 式路线概括为:从互联网下载数据,训练通用 Transformer,再把智能推向 To C/To B 市场。所谓“反向 OpenAI”,则是从世界各地拥有问题和数据的农场、医院、制造、航空与机器人伙伴出发,共建垂直世界模型,先创造价值和新数据,再反哺通用 foundation。
这同时包含三种主张:技术上,多模态工业信号可共享一个预训练底座;商业上,伙伴愿意贡献数据并采用模型;治理上,多方能形成类似 Mastercard 联盟的利益结构。三者不会自动互相成立。数据异构、权限、分布漂移、收益分配和责任归属,可能比单一平台训练更难。
节目录制时,谢赛宁用“目标约十亿美元”“约 25 人”“约 30 亿欧元投前”等未完成口径。2026 年 3 月正式宣布后,公开报道确认种子轮为 8.9 亿欧元/10.3 亿美元,估值口径约 30 亿欧元;正式团队名单确认谢赛宁为 CSO、Yann LeCun 任董事长,并设巴黎、纽约、蒙特利尔、新加坡布局。公开资料还显示正式宣布时约十余人、计划扩至 30–50 人,与录制时的预期团队数并非同一统计时点。
谢赛宁把 AMI 定位在开放研究实验室与封闭 neo-lab 之间:约 60–70% 目标导向执行,20–30% 自由前沿研究;偏好使命驱动、尚未成为 superstar 的年轻研究者,希望保留署名和成长通道。他把自己和 LeCun 描述为团队“电池”,为他人提供能量。
这套价值观值得肯定,但真正检验不在口号,而在制度:
“普通人”是一种反英雄领导叙事,也是一种强创始人品牌。只有决策权、署名和资源真的下沉,它才不只是更柔和的英雄叙事。
谢赛宁与 LeCun 认为“general intelligence”可能是伪命题:任何生物都受感觉器官、身体、能耗与生态位限制。动物会使用工具、形成社会关系、记忆藏食者和推理他者视角,人类语言不是智能唯一形式。他引用 Rich Sutton 的观点:造出能在真实世界生存、有目标、内在奖励和社群行为的“松鼠智能”,可能比写代码或拿竞赛金牌更触及智能本质。
这揭示 Moravec 悖论式的不均衡:符号任务和闭环适应是不同能力结构,不应放在一条难度轴上。却也不能从“不存在绝对通用”直接推出 AGI 没有工程意义;若 AGI 只是广泛任务迁移和自主学习的目标,它仍可操作。争议更多是定义,而非一个可由数学一次消解的事实问题。
| 主张 A | 主张 B | 如何同时理解 |
|---|---|---|
| 反对 fame 与个人中心 | 统一视觉风格、视频、超长人物访谈与创始人叙事 | 区分注意力是否服务知识传播和贡献归因,而不是假装没有传播。 |
| 研究是 bottom-up 探索 | AMI 需要大额融资、全球组织和明确 mission | 需要探索晋级机制,把不确定研究转成阶段性资源决策。 |
| 语言是捷径和阶段性产物 | 世界模型仍需要 LLM 沟通、条件和知识 | 争议是地基与接口的层级关系,不是语言是否消失。 |
| 世界模型更安全可控 | 训练目标、数据和输出形式尚在研究 | 安全是待验证的潜在收益,不能作为路线已成立的前提。 |
研究者通过实验预测误差更新方向;智能体通过环境预测误差更新表征;创业公司通过客户反馈更新产品。三层都反对从静态计划直达终点。
世界模型真正的 scaling 不是吞多少视频,而是压缩后还能支持多少新任务、反事实和长时规划。若每换任务都要重训,所谓通用表征尚未成立。
“硅谷被 LLM 催眠”很有传播力,但站在主流反面不自动正确。AMI 应提前公开哪些实验会让自己放弃或修改路线,才能证明其科学性来自证据而非身份。
模型和数据之外,多伙伴联盟最稀缺的是使用权、反馈权、收益权和退出权的可扩展契约。没有治理层,分布式世界只会变成互不兼容的数据孤岛。
突破导向应配套稳定基础设施、负结果归档、复现预算和贡献署名;否则所有人追求代表作,没人维护让代表作可信的脚手架。
连续生活和工业数据越接近真实价值,越涉及隐私、权力和商业秘密。治理可行性将直接塑造技术可达边界。
本篇把个人经历、FAIR/Google/OpenAI 内部互动、Ilya 电话、薪酬、同事选择和公司文化视为谢赛宁的口述证言;论文与官方页面可核技术/履历,不能核实所有私人细节。AMI 融资已在录制后正式宣布,因此正文按正式信息校准录制时预测。关于语言、世界模型、安全与 scaling 的强判断仍是可证伪研究押注。